國(guó)際權(quán)威期刊《科學(xué)》（Science）雜志發(fā)表了一篇由來(lái)自全球多國(guó)的25位世界頂尖人工智能、計(jì)算機(jī)科學(xué)、公共政策及倫理學(xué)領(lǐng)域的科學(xué)家聯(lián)合署名的評(píng)論文章。文章的核心議題是呼吁國(guó)際社會(huì)采取比當(dāng)前“更強(qiáng)有力、更系統(tǒng)化”的集體行動(dòng)，以應(yīng)對(duì)人工智能（AI）技術(shù)快速發(fā)展所帶來(lái)的日益嚴(yán)峻的潛在風(fēng)險(xiǎn)，并著重提出了建設(shè)“人工智能公共數(shù)據(jù)平臺(tái)”這一關(guān)鍵性倡議。
文章開(kāi)篇即指出，人工智能，尤其是大型語(yǔ)言模型和生成式AI的爆炸式發(fā)展，在帶來(lái)生產(chǎn)力革命、科學(xué)發(fā)現(xiàn)加速和社會(huì)福祉提升的巨大機(jī)遇的也伴隨著一系列深刻且可能不可逆的風(fēng)險(xiǎn)。這些風(fēng)險(xiǎn)不僅限于技術(shù)層面，更廣泛涉及社會(huì)倫理、經(jīng)濟(jì)結(jié)構(gòu)、地緣政治乃至人類文明的長(zhǎng)期未來(lái)。科學(xué)家們列舉的風(fēng)險(xiǎn)圖譜包括但不限于：
- 系統(tǒng)性風(fēng)險(xiǎn)與失控：高級(jí)AI系統(tǒng)可能因其目標(biāo)的復(fù)雜性和不可預(yù)測(cè)性，產(chǎn)生與人類價(jià)值觀相悖甚至有害的行為，尤其是在自主決策系統(tǒng)中，存在“對(duì)齊問(wèn)題”未能徹底解決而導(dǎo)致的失控風(fēng)險(xiǎn)。
- 社會(huì)公平與偏見(jiàn)加劇：當(dāng)前AI模型的訓(xùn)練嚴(yán)重依賴互聯(lián)網(wǎng)等來(lái)源的數(shù)據(jù)，其中蘊(yùn)含的社會(huì)偏見(jiàn)、歷史不公和虛假信息可能被放大和固化，進(jìn)一步加劇社會(huì)不平等和歧視。
- 安全與惡意濫用：AI能力可能被用于開(kāi)發(fā)新型網(wǎng)絡(luò)武器、制造高度逼真的虛假信息（如深度偽造）進(jìn)行輿論操縱、或輔助自動(dòng)化攻擊系統(tǒng)，對(duì)國(guó)家安全和個(gè)人隱私構(gòu)成嚴(yán)重威脅。
- 經(jīng)濟(jì)顛覆與就業(yè)沖擊：AI自動(dòng)化可能以空前的速度和廣度取代人力，引發(fā)大規(guī)模結(jié)構(gòu)性失業(yè)和社會(huì)動(dòng)蕩，而由此產(chǎn)生的財(cái)富可能進(jìn)一步集中。
- 生態(tài)與資源挑戰(zhàn)：訓(xùn)練和運(yùn)行尖端AI模型需要巨大的計(jì)算資源和能源消耗，其碳足跡對(duì)環(huán)境可持續(xù)性構(gòu)成挑戰(zhàn)。
科學(xué)家們認(rèn)為，目前各國(guó)政府、產(chǎn)業(yè)界和國(guó)際組織采取的措施——如自愿性的倫理準(zhǔn)則、行業(yè)自律和零散的監(jiān)管提案——在應(yīng)對(duì)上述系統(tǒng)性、全球性挑戰(zhàn)方面顯得“碎片化且力度不足”。他們強(qiáng)調(diào)，AI風(fēng)險(xiǎn)的本質(zhì)是跨國(guó)界的，任何單一國(guó)家或公司的行動(dòng)都難以奏效，必須依靠全球性的協(xié)調(diào)與合作。
為此，聯(lián)名文章的核心建議是倡議并推動(dòng)建立“人工智能公共數(shù)據(jù)平臺(tái)”。這一平臺(tái)構(gòu)想具有以下關(guān)鍵特征與目標(biāo)：
- 開(kāi)放與協(xié)作的研究基礎(chǔ)設(shè)施：平臺(tái)旨在成為一個(gè)全球科學(xué)家、工程師和倫理學(xué)家可以安全、可控地訪問(wèn)高質(zhì)量、多樣化數(shù)據(jù)集和標(biāo)準(zhǔn)化計(jì)算資源的公共空間。其核心是打破目前高質(zhì)量訓(xùn)練數(shù)據(jù)被少數(shù)大型科技公司壟斷的局面，促進(jìn)更廣泛、更透明的AI安全與對(duì)齊研究。
- 專注于安全與對(duì)齊研究：平臺(tái)將優(yōu)先支持對(duì)AI系統(tǒng)安全性、魯棒性、可解釋性和價(jià)值觀對(duì)齊（Alignment）的研究。例如，研究人員可以在平臺(tái)上系統(tǒng)地測(cè)試AI模型在極端或?qū)剐郧榫诚碌男袨椋_(kāi)發(fā)更有效的“紅隊(duì)測(cè)試”方法，以及探索讓AI系統(tǒng)穩(wěn)定遵循復(fù)雜人類倫理框架的技術(shù)路徑。
- 標(biāo)準(zhǔn)化的風(fēng)險(xiǎn)評(píng)估基準(zhǔn)：通過(guò)平臺(tái)，國(guó)際社會(huì)可以共同開(kāi)發(fā)和維護(hù)一套權(quán)威、動(dòng)態(tài)更新的AI風(fēng)險(xiǎn)評(píng)估基準(zhǔn)與測(cè)試標(biāo)準(zhǔn)。這將為客觀衡量不同AI模型的風(fēng)險(xiǎn)水平、比較不同安全技術(shù)的有效性提供共同標(biāo)尺，也為監(jiān)管政策的制定提供科學(xué)依據(jù)。
- 促進(jìn)全球治理與監(jiān)管合作：該平臺(tái)的建設(shè)和運(yùn)營(yíng)本身可以成為國(guó)際AI治理合作的典范。它需要建立包括政府、學(xué)術(shù)界、產(chǎn)業(yè)界和民間社會(huì)代表在內(nèi)的多邊治理架構(gòu)，制定嚴(yán)格的數(shù)據(jù)安全、訪問(wèn)權(quán)限和研究成果共享協(xié)議，為未來(lái)更廣泛的國(guó)際AI治理?xiàng)l約或框架奠定實(shí)踐基礎(chǔ)。
科學(xué)家們?cè)谖恼轮谐姓J(rèn)，建立這樣一個(gè)全球性平臺(tái)面臨政治意愿協(xié)調(diào)、資金籌集、技術(shù)實(shí)現(xiàn)、數(shù)據(jù)隱私保護(hù)以及防止技術(shù)被濫用的多重挑戰(zhàn)。但他們強(qiáng)調(diào)，與無(wú)所作為可能帶來(lái)的災(zāi)難性風(fēng)險(xiǎn)相比，投入資源建設(shè)這樣的“全球公共品”是必要且緊迫的投資。
這25位頂尖科學(xué)家向全球的研究機(jī)構(gòu)、國(guó)家政府、科技企業(yè)和公民社會(huì)發(fā)出強(qiáng)烈呼吁：必須立即提升AI風(fēng)險(xiǎn)防范的政治與資源優(yōu)先級(jí)。他們敦促二十國(guó)集團(tuán)（G20）、聯(lián)合國(guó)等主要多邊論壇將建立“人工智能公共數(shù)據(jù)平臺(tái)”及相關(guān)治理框架列入核心議程，并啟動(dòng)實(shí)質(zhì)性的籌備工作。他們認(rèn)為，在AI能力可能超越人類智能關(guān)鍵閾值的“臨界點(diǎn)”到來(lái)之前，人類社會(huì)必須建立起有效監(jiān)督和引導(dǎo)這一強(qiáng)大技術(shù)的集體能力。此次聯(lián)名發(fā)聲，標(biāo)志著科學(xué)共同體對(duì)AI治理的關(guān)切已達(dá)到一個(gè)新的高度，也為全球應(yīng)對(duì)AI時(shí)代的共同挑戰(zhàn)指明了一條以開(kāi)放科學(xué)和國(guó)際合作為基礎(chǔ)的前進(jìn)道路。
