AI安全是最新的技術(shù)，不僅需要考慮AI模型本身的安全性，還需要考慮整個(gè)系統(tǒng)的安全性。未來隨著模型變得越來越大，確保正確性將變得昂貴，開源一切可能不是最優(yōu)路徑。

　　6月10日，OpenAI聯(lián)合創(chuàng)始人兼CEO，薩姆·奧特曼（Sam Altman）以視頻連線的方式現(xiàn)身于中國北京舉辦的2023智源人工智能大會，這是Altman首次對中國觀眾發(fā)表演講。

　　奧特曼表示，世界的注意力主要集中在解決當(dāng)今的人工智能問題上，很多問題的解決非常迫切。人工智能能力正在迅速增長，現(xiàn)在需要負(fù)責(zé)任地將其應(yīng)用到世界中去。

　　當(dāng)下，人工智能變革正在迅速拓展人類的想象力，未來十年，奧特曼認(rèn)為AGI將會超過90年代初人類所具備的專業(yè)水平，最終可能超過人類最大體量公司的總體生產(chǎn)力，潛在收益是巨大的。

　　與此同時(shí)，管理風(fēng)險(xiǎn)、共同努力實(shí)現(xiàn)預(yù)期目標(biāo)也是必需的。隨著越來越強(qiáng)大的人工智能系統(tǒng)的出現(xiàn)，全球合作的利益變得前所未有地重要。如果不做好規(guī)劃，一個(gè)未對齊的AI系統(tǒng)可能會通過提供不平衡的建議來破壞整個(gè)集體系統(tǒng)。因此，奧特曼強(qiáng)調(diào)，推進(jìn)AGI安全是行業(yè)尋找共同立場的最重要領(lǐng)域之一。

　　奧特曼表示行業(yè)必須為開發(fā)和部署可能引發(fā)的問題負(fù)起責(zé)任，其中最重要的兩個(gè)領(lǐng)域是：一，建立起包容的國際準(zhǔn)則和標(biāo)準(zhǔn)，并在所有國家對AGI的使用中建立平等、統(tǒng)一的防護(hù)措施；二，需要國際合作，以可驗(yàn)證的方式在全球范圍內(nèi)建立對越來越強(qiáng)大的AGI系統(tǒng)安全開發(fā)的信任。

　　奧特曼引用《道德經(jīng)》稱“千里之行，始于足下”，最有建設(shè)性的第一步是與國際科技界展開合作，推動增加AGI安全技術(shù)進(jìn)展的透明度和知識的機(jī)制，發(fā)現(xiàn)緊急問題的研究人員應(yīng)該與更多人共享研究成果。更加深入地思考如何在鼓勵(lì)推動國際合作的同時(shí)尊重和保護(hù)知識產(chǎn)權(quán)，推動并引導(dǎo)與安全研究一致的投資。

　　聚焦眼下，奧特曼認(rèn)為，要使AI系統(tǒng)成為一個(gè)有益和安全的助手，對應(yīng)的是如何訓(xùn)練模型，使其在沒有安全威脅的前提下發(fā)揮積極作用，主動應(yīng)對AGI帶來的潛在挑戰(zhàn)，將未來災(zāi)難性后果的風(fēng)險(xiǎn)降至最低。

　　具體到GPT-4從完成預(yù)訓(xùn)練到部署，奧特曼稱團(tuán)隊(duì)花了八個(gè)月的時(shí)間來研究如何前置預(yù)判風(fēng)險(xiǎn)并給出對策的問題，團(tuán)隊(duì)走在正確的道路上，GPT-4的對齊程度超過當(dāng)前所有的代碼。但對于更高級的系統(tǒng)來說，對齊仍是一個(gè)尚未解決的問題，需要新的技術(shù)方法以及加強(qiáng)治理監(jiān)督，畢竟未來的AGI可能是一個(gè)十萬行二進(jìn)制代碼的系統(tǒng)，人類監(jiān)督者很難判斷如此規(guī)模的模型是否在做一些損害的事情。

　　針對于此，奧特曼稱團(tuán)隊(duì)正在投資新的方向，其一是可擴(kuò)展監(jiān)督，嘗試使用AI系統(tǒng)來協(xié)助人類監(jiān)督其他AI系統(tǒng)，例如訓(xùn)練一個(gè)模型來幫助人類監(jiān)督員找出其他模型代碼中的缺陷。其二是可解釋性，更好地理解模型內(nèi)部發(fā)生的事情，如用GPT-4來解釋計(jì)算機(jī)的復(fù)雜狀態(tài)。最終目標(biāo)是訓(xùn)練AI系統(tǒng)具備更好的優(yōu)化自身的能力，而美國、中國乃至世界各地的研究人員，在應(yīng)對AI領(lǐng)域技術(shù)挑戰(zhàn)上的合作存在巨大潛力。

　　在與智源研究院理事長張宏江隔空對話中，奧特曼表示，AGI時(shí)代可能很快就會發(fā)生，未來十年內(nèi)，行業(yè)可能會擁有超強(qiáng)的AI系統(tǒng)，這種情況下，全球監(jiān)管便非常緊迫。而AI安全是最新的技術(shù)，不僅需要考慮AI模型本身的安全性，還需要考慮整個(gè)系統(tǒng)的安全性。因此需要構(gòu)建安全的分類器和檢測器，來監(jiān)測符合用戶政策的情況。

　　至于OpenAI會否重新開放GPT源代碼，奧特曼表示，目前OpenAI開源了部分模型，隨著時(shí)間的推移，可以期望更多模型開源。未來隨著模型變得越來越大，確保正確性將變得昂貴，開源一切可能不是最優(yōu)路徑。

下一篇：三帝科技宗貴升：3D打印已成為數(shù)字化轉(zhuǎn)型重要利器

上一篇：Meta扎克伯格召開全體員工大會，擬將AI與元宇宙相融合