AI“越界”?國際社會探索設立“護欄”(環球熱點)
訂閱已訂閱已收藏
收藏![]() |
|
在貴州省畢節市科技館裡,小朋友和機器人進行互動。 |
在日前舉辦的第81屆聯合國大會一般性辯論上,人工智能(AI)成為中心話題。此前,在聯合國安理會舉行的“人工智能與國際安全”高級別會議上,如何應對人工智能快速發展帶來的安全風險和監管挑戰也成為討論焦點。
隨著全球AI技術加速發展、前沿模型能力快速躍升,AI領域的安全風險也加速顯現,國際社會也在著力探索全球性的AI治理與風險管控機制。正如聯合國秘書長古特雷斯所言:“由於人工智能發展及其所帶來的風險超越國界,全球協作不可或缺。當前形勢下,國際合作比以往任何時候都更加必要。”
“越界”事件暴露復雜安全隱患
今年9月聯合國大會一般性辯論期間,聯合國秘書長古特雷斯表示AI技術以驚人的速度發展,超出了人類理解其全部后果的能力,並呼吁AI強國承擔更大的責任,加強對話、透明度、信任與合作。
今年以來,多起美國AI閉源模型突破隔離環境入侵其他系統事件接連曝光。
今年7月,美國開放人工智能研究中心(OpenAI)的多個AI模型在內部評估時突破隔離測試環境,入侵了運營人工智能開源平台的美國抱抱臉(Hugging Face)公司的系統,並在攻擊過程中利用網上公開信息,訪問了多個公開服務平台上的賬戶。隨后,美國Anthropic公司也披露,其3款模型曾在網絡能力測試中未經授權訪問其他機構的系統。8月初,美國元公司(Meta)又証實,其一款模型在網絡安全能力評測期間侵入其他公司系統。
在第81屆聯合國大會期間,澳大利亞總理阿爾巴尼斯透露,OpenAI的一個智能體於今年6月未經授權進入澳國民醫療保險體系數據門戶,訪問了公開及非公開文件。澳方直到9月早些時候才收到OpenAI的通報。
根據目前的公開信息,AI前沿模型的“越界”事件並未造成大規模數據泄露或持續性破壞,但多起“越界”事件的發生,已暴露AI安全監管機制的漏洞。
聯合國“人工智能獨立國際科學小組”在評估OpenAI的AI智能體在測試中侵入美國“抱抱臉”公司系統事件的專題簡報中分析,AI系統能力提升固然可幫助用戶實現目標,但當AI的目標和用戶意圖發生“對齊失效”時,就可能產生危害。更強的能力讓AI更容易找到意外的漏洞、突破安全防護屏障,並在人類監督下隱藏自身行為。一旦智能體之間開展規劃與協同,造成的損害還會進一步放大。“AI故障可跨越企業和國界,沒有任何單一機構或國家能接觸足夠多的事件樣本進而識別所有新出現的風險模式。”
復旦大學發展研究院副教授、全球人工智能創新治理中心研究員江天驕分析,近期發生的多起AI“越界”事件在國際科技界與政界引發高度關注。這一事件表明,AI大模型技術發展已達到新階段,原本被視為科幻想象的“模型失控”風險正轉變為行業面臨的現實挑戰。該事件暴露了傳統針對單一模型的安全設計已難以應對多智能體協作帶來的復雜安全隱患——當多個智能體產生互動時,可能繞過既定安全規則的“護欄”,引發不可控的破壞性后果。此外,“越界”事件還凸顯了AI失控后責任界定的困境,即當智能體為實現目標造成非預期后果時,開發者、被攻擊方及整個生態鏈條的責任歸屬尚不明確。面對AI安全風險帶來的治理挑戰,國際社會積極探索全球性的合作治理機制。
全球AI治理規則仍在初步探索階段
“人類正在接近一個關鍵轉折點,失控的風險正在從理論走向現實。”在聯合國安理會高級別會議上,科學專家組聯席主席、圖靈獎獲得者本吉奧警告,能夠自主規劃和執行復雜任務的人工智能系統正在快速出現,而人類社會尚未建立足夠成熟的安全保障機制。“我們正在高速前進,但前方的能見度越來越低。”
江天驕分析,從全球范圍看,AI技術發展主要帶來4類安全風險:一是濫用風險,包括被非國家行為體用於網絡攻擊、降低核生化武器制造門檻,以及利用深度偽造進行詐騙和傳播虛假信息等﹔二是失控風險,前沿模型因能力增強可能越過安全護欄,產生不確定性后果﹔三是社會風險,AI產業發展可能帶來就業沖擊、心理倫理問題及社會治理難題﹔四是地緣政治與軍事風險,如AI的使用可能壓縮軍事行動的決策時間,激化地緣沖突,AI領域全球治理碎片化也將引發國家間的政治博弈。
在OpenAI智能體“越界”事件后,英國人工智能安全研究所發布的一份報告指出,AI模型出現“越界”行為表明,AI相關風險狀況正發生變化,AI的危害不僅可能源於故意濫用,也可能源於AI處於內部研究環境或擁有特殊訪問權限時,採取超出授權范圍的非預期行動。隨著AI能力不斷提升,理解AI系統並確保其安全性的相關工作也必須同步推進。
在聯合國大會一般性辯論上,古特雷斯指出,聯合國通過《全球數字契約》、人工智能治理全球對話以及人工智能獨立國際科學小組等多種途徑,正在推動全球人工智能治理。他強調:“我們應當努力建立一個人工智能風險管理多邊框架,並以可信、獨立的監督作為支撐。”
近日,德國等20個國家和歐盟發表聯合聲明,呼吁各國政府和業界立即採取行動,確保人工智能的發展符合國際法,並始終處於“人類的指導、監管和控制”之下,包括可能建立一個全球監管機構來制定和執行相關標准。
江天驕分析,在AI安全監管的國際合作方面,聯合國、G20、OECD、金磚國家、上合組織等多邊國際組織都有相關的理念倡議與監管實踐,但目前仍缺乏統一的共識原則與協調機制,對AI安全監管規則制定與標准統一仍處於初步探索階段。
全球需協同行動為AI設立“護欄”
古特雷斯此前曾呼吁:孤立的、無法驗証的、不均衡實施的AI公司自願暫停措施無法解決當前問題。國際社會需要對如何安全負責任地推進人工智能開發,以及何時需要強化監督、採取額外風險管控措施形成共識。在當前存在巨大地緣政治分歧的背景下,人類承擔不起人工智能走向“逐底競爭”的后果。我們需要設立護欄,以便建立信任,確保人工智能安全、透明、負責任,並以人類尊嚴為中心。
江天驕分析,目前,主要AI大國的監管路徑呈現顯著差異。美國政策存在擺動效應,拜登政府時期強調建立監管聯盟,而特朗普陣營則主張“輕監管”以優先鼓勵技術創新﹔歐盟採取“嚴法”路徑,通過《人工智能法案》實施嚴苛的風險分級與禁止性規定﹔中國則堅持“發展與安全並重”,通過備案機制、內容標識、溯源要求、“清朗”專項行動等靈活措施,實現場景化治理與技術創新發展的平衡。
谷歌、Anthropic、OpenAI和英偉達等美國多家科技企業負責人近日在白宮簽署了名為《白宮超級智能協議:前沿責任聯合承諾》的文件。根據這份協議,所有訓練、部署前沿模型的企業,均需建立完善的內部流程與管控機制,確保技術按預設目標運行。該協議要求企業重點監測模型在網絡安全、生物安全和化學威脅等領域的能力及相關風險,並防止模型以非預期方式入侵或訪問技術系統。有美國媒體指出,上述承諾屬自願性質,並非具有法律約束力的監管規定。
今年9月,中國全國網絡安全標准化技術委員會發布《人工智能安全治理框架3.0》。新的框架更加關注人工智能出現的新風險,設置“自主實施網絡攻擊威脅”專欄,還有專門的“智能體風險管理框架”。9月下旬,中美達成8點成果共識。其中包括雙方同意建立中美人工智能對話,交流人工智能相關風險和惠益。
江天驕認為,面對AI技術的迅猛發展,加強安全監管與國際合作刻不容緩。一方面,全球多國需要探索成立全球公認的前沿模型第三方獨立評估機構和互認機制,推動建立AI技術相關國際安全標准,為更多國家提供可信的AI模型安全檢測評估服務﹔另一方面,國際社會仍需探索建立國際安全事故通報與披露機制,明確實驗室及企業在發現風險時的通報義務、對象及內容,尤其是AI大國間的合作將產生重要示范效應。此外,國際社會還須完善AI模型分類分級標准,改變單純依靠參數量級評判風險的做法,重點考察AI系統自主迭代優化、模型自主實施網絡攻擊、多智能體協同開展高危操作等實質性風險特征,為人工智能劃定更加細致的安全“紅線”。
分享讓更多人看到
- 評論
- 關注




































第一時間為您推送權威資訊
報道全球 傳播中國
關注人民網,傳播正能量