近日，阿里巴巴集團聯(lián)合發(fā)布了《大模型技術(shù)發(fā)展及治理實踐報告》，深入探討了AI技術(shù)快速發(fā)展所帶來的治理與安全挑戰(zhàn)。隨著ChatGPT在全球范圍內(nèi)的火爆，AI大模型已成為科技界的焦點。截至2023年上半年，全球AI企業(yè)數(shù)量已達到3.6萬家，其中美國占比最高，為33.6%，而中國則以16%的比例緊隨其后，擁有5734家企業(yè)。

在中國，AI大模型的發(fā)展尤為迅猛。據(jù)數(shù)據(jù)顯示，目前已有超過270個AI大模型完成備案并對外提供服務，總注冊賬戶數(shù)突破13億。其中，北京市作為國內(nèi)大模型產(chǎn)業(yè)的領(lǐng)頭羊，備案大模型數(shù)量已達到105個，占全國的一半以上。這些大模型不僅數(shù)量眾多，而且在實際應用中表現(xiàn)出色，已經(jīng)為超過1.4萬家企業(yè)提供了賦能服務。

然而，在AI大模型技術(shù)不斷突破的同時，其安全風險與治理問題也日益凸顯。如何確保大模型始終處在人類控制之下，不斷降低安全風險，成為了全球范圍內(nèi)的共識。對此，報告提出了多項治理措施，包括建立健全大模型研發(fā)、上線、運行等全生命周期管理體系，以及協(xié)同各方夯實AI發(fā)展的基礎(chǔ)等。

值得注意的是，在AI大模型的發(fā)展過程中，自主創(chuàng)新問題也備受關(guān)注。有觀點認為，當前大量國產(chǎn)模型采用國外的開源架構(gòu)進行訓練，導致與國際頂尖水平存在一定的差距。對此，北京市互聯(lián)網(wǎng)信息辦公室副主任潘鋒表示，在“百模大戰(zhàn)”之下，真正有競爭力的模型并不多，不少企業(yè)還未找到可持續(xù)的商業(yè)模式，面臨較大的生存壓力。因此，加強自主創(chuàng)新，提升國產(chǎn)AI大模型的競爭力，成為了當前亟待解決的問題。

在開源方面，阿里巴巴集團作為頭部AI和云服務商，積極推動了AI大模型的開源發(fā)展。據(jù)阿里安全總裁錢磊透露，過去一年，阿里投入大量資源到AI算力基礎(chǔ)設(shè)施建設(shè)當中，并持續(xù)建立安全架構(gòu)。目前，“通義千問”API的調(diào)用價格已大幅下降97%，吸引了包括中國一汽、聯(lián)想、微博等在內(nèi)的30多萬家企業(yè)接入。

在提升AI大模型安全性方面，報告也提出了新的概念——憲法人工智能（Constitutional AI）。該技術(shù)通過人為設(shè)定憲法準則，對模型進行微調(diào)和強化學習，使模型與憲法準則進行對齊。這一技術(shù)的提出，為AI大模型的安全性提供了新的解決方案。通過利用少量人類定義的原則或規(guī)則來引導大模型生成響應，可以極大地減少人工監(jiān)督的工作量。

對于AI大模型的未來發(fā)展與安全治理，中國電子技術(shù)標準化研究院副院長范科峰表示，發(fā)展與安全從來都不是對立的，而是相輔相成的。AI安全標準化工作既是AI安全治理的重要支撐，也是推動技術(shù)健康發(fā)展的基本保證。因此，加強AI技術(shù)的標準化工作，提升AI大模型的安全性與可靠性，將是未來發(fā)展的重要方向。