在近日于北京市大興區(qū)盛大舉行的2024T-EDGE創(chuàng)新大會(huì)暨鈦媒體財(cái)經(jīng)年會(huì)上，一場(chǎng)關(guān)于生成式AI的深度對(duì)話吸引了眾多目光。對(duì)話雙方分別是暗物智能DMAI前美國(guó)首席執(zhí)行官、藍(lán)色光標(biāo)前美國(guó)總裁符海京，以及哈佛大學(xué)博士、加州大學(xué)伯克利分校人工智能實(shí)驗(yàn)室執(zhí)行董事、Dark Matter AI聯(lián)合創(chuàng)始人及微軟、亞馬遜顧問(wèn)Mark Nitzberg。

Mark Nitzberg指出，盡管生成式AI在諸如回答復(fù)雜問(wèn)題和生成高質(zhì)量?jī)?nèi)容等任務(wù)中表現(xiàn)出色，其仍處在實(shí)驗(yàn)階段，可靠性問(wèn)題成為阻礙其進(jìn)一步發(fā)展的主要瓶頸?！爱?dāng)前的模型性能取得了巨大進(jìn)步，但我們無(wú)法忽視其在關(guān)鍵場(chǎng)景中的不一致性，”他強(qiáng)調(diào)，“例如，微小的輸入變化可能導(dǎo)致模型輸出的答案產(chǎn)生巨大偏差，這種不確定性在醫(yī)療、交通等高風(fēng)險(xiǎn)領(lǐng)域是無(wú)法接受的?！?/p>

然而，Mark Nitzberg也提到，生成式AI在一些新興領(lǐng)域展現(xiàn)出了指數(shù)級(jí)的效率提升。他分享了瑞典的一項(xiàng)跨行業(yè)研究，其中“建筑修復(fù)”領(lǐng)域因應(yīng)用生成式AI，效率提升了約100倍。盡管如此，他依然保持理性態(tài)度，認(rèn)為這些效率提升雖令人振奮，但其可持續(xù)性仍取決于能否攻克技術(shù)可靠性問(wèn)題。

Mark Nitzberg進(jìn)一步強(qiáng)調(diào)，將生成式AI引入各個(gè)領(lǐng)域時(shí)，必須確保對(duì)沒(méi)有AI時(shí)的操作方式有清晰理解。只有這樣，在引入AI并使其更高效、更快速運(yùn)行時(shí)，才不會(huì)將之前手動(dòng)操作中的問(wèn)題部分也自動(dòng)化。他提到，生成式AI向智能體的轉(zhuǎn)變潛力巨大，但也伴隨著復(fù)雜的技術(shù)挑戰(zhàn)和安全隱患，可靠性和控制機(jī)制是未來(lái)發(fā)展的重要研究方向。

符海京與Mark Nitzberg的對(duì)話中，探討了中美在生成式AI領(lǐng)域的現(xiàn)狀。Mark Nitzberg表示，加州大學(xué)伯克利分校是全球頂尖的AI實(shí)驗(yàn)室之一，擁有70位教授和超過(guò)400名博士生，其中許多是中國(guó)籍學(xué)生。他提到，AI已經(jīng)融入人類生活的方方面面，但人類實(shí)際上仍處于生成式AI的實(shí)驗(yàn)時(shí)代，這一切才剛剛開(kāi)始。

符海京詢問(wèn)生成式AI如何在不同地理區(qū)域和行業(yè)中產(chǎn)生影響時(shí)，Mark Nitzberg解釋，生成式AI的出現(xiàn)有一些關(guān)鍵點(diǎn)需要理解。他以水電大壩為例，指出使用看似“智能”的語(yǔ)言模型來(lái)控制這類系統(tǒng)，需要應(yīng)用典型的工程方法來(lái)限制其行為。然而，這些語(yǔ)言模型本質(zhì)上是一個(gè)巨大的電路板，每個(gè)旋鈕在訓(xùn)練過(guò)程中都會(huì)被調(diào)整，直到得到一個(gè)所有旋鈕都調(diào)整好的電路板，這就是現(xiàn)在的語(yǔ)言模型，如GPT-4等。

Mark Nitzberg還提到，這些商業(yè)模型非常強(qiáng)大，能完成許多令人驚訝的任務(wù)，如回答復(fù)雜問(wèn)題和生成圖像等，但它們的共同問(wèn)題是不可靠。他強(qiáng)調(diào)，雖然可以在這些模型外面構(gòu)建一個(gè)“安全層”，但很難對(duì)其行為提供任何形式的保證，這也在一定程度上限制了它們的應(yīng)用范圍。

對(duì)于創(chuàng)業(yè)者如何在AI轉(zhuǎn)型競(jìng)賽中取勝的問(wèn)題，Mark Nitzberg認(rèn)為，數(shù)字化工具正在為下一代提供應(yīng)用AI的基礎(chǔ)，而這個(gè)領(lǐng)域的應(yīng)用仍然是“廣闊未定”的。他提到，加州大學(xué)舊金山分校醫(yī)療中心正在與他們合作，開(kāi)發(fā)一種基于患者治療臨床步驟訓(xùn)練的變換器模型變體，這種訓(xùn)練方法產(chǎn)生了一種更加“可解釋”的變換器系統(tǒng)。

最后，Mark Nitzberg在談到AI的推理能力時(shí)表示，微軟提到的自動(dòng)化代理是AI從工具型系統(tǒng)向更高級(jí)智能體轉(zhuǎn)變的標(biāo)志。然而，這種轉(zhuǎn)變也帶來(lái)了更多的問(wèn)題，尤其是關(guān)于可靠性和安全性的問(wèn)題。他認(rèn)為，接下來(lái)的研究重點(diǎn)應(yīng)集中在多模態(tài)數(shù)據(jù)的整合和因果推理的增強(qiáng)上。