“安全認知，日見清晰﹔安全研究，路阻且長﹔安全行業，大有可為﹔緊跟創新，保障發展……”在近日舉行的第十二屆互聯網安全大會上，中國工程院院士吳世忠的一番總結，折射了AI（人工智能）時代安全大模型行業的發展現狀。

一直以來，技術發展伴生的安全挑戰、迭代防護，貫穿著行業發展始終，也備受各界關注。大會期間，多位院士，中國互聯網協會、中國信通院、世界互聯網大會等機構組織負責人，以及國內外企業代表齊聚，圍繞“打造安全大模型”主題，分享來自政產學研用領域的各方觀點。

從“百模大戰”到探尋更多應用場景

在過去的兩年裡，隨著ChatGPT在全球范圍內爆紅，AI大模型熱潮在國內急速升溫，多家互聯網巨頭紛紛加速布局大模型應用。記者從會上了解到，截至目前，我國已完成備案並上線、能為公眾提供服務的生成式人工智能服務大模型有180多個，注冊用戶數已突破5.64億。

會上專家介紹，AI以激進式的科技創新，全面推進新一輪科技革命和生活賦能，以顛覆式的應用創新，激發出科技、經濟、社會全方位的深刻變化。大模型的出現標志著AI發展進入新階段，具備了強大的語言生成能力、人機自然交互能力、遷移（舉一反三）能力。

“我們已初步構建了較為全面的AI技術產業體系，建成了2500多個數字化車間和智能工廠，經過AI改造研發周期平均縮短20％，生產效率提升35％……”中國信息通信研究院副院長魏亮分享了這樣一組數據。他分析認為，大模型技術發展帶來高質量算力基礎設施和數據集語料庫的大量需求，我們要加快推進大模型基礎設施化，促進行業應用和中小企業普惠使用，不斷創新應用生態、推動縱深發展。

從曾經的“百模大戰”，到持續賦能千行百業，再到如今發力探尋具體應用場景。“2024年應該是場景之年，要結合業務找‘明星場景’，然后根據場景設計功能，對大模型進行專項訓練。”360集團創始人周鴻祎認為。

有專家提到“協作”的重要性，基礎大模型是企業實現數字化轉型不可或缺的一環，需要應對包括強大的算力、充足的數據、高水平的研材、新應用的算法等諸多挑戰，這就需要大模型提供方與垂直行業緊密合作。

大模型具有兩用性和雙刃劍特征

“ChatGPT問世不到一年，科研前沿就有了風險預警。它是典型的兩用性技術，具有雙刃劍特性，人們擔心技術發展失控、道理倫理失范、網絡安全失守。”吳世忠談到這樣一組觀察體會——近年來，美國人工智能公司“開放人工智能研究中心”（OpenAI）等國外行業巨頭相繼加大安全技術和監管措施的投入，國內諸多企業也在安全研究上布局投資。這說明，大模型能力增長需要安全研究快速跟進，這已成為業界共識。

在業界看來，當前AI的發展存在諸多不足。“生成式AI存在‘幻覺’缺陷，它會‘胡說八道’，很多情況下還並不知道自己說錯了。它和機器產生的錯誤不一樣，后者往往我們可以控制，但前者是本身的錯誤，是一定會發生且不可控的。這是開發應用中需要重點考慮的問題。”中國科學院院士、清華大學計算機系教授張鈸說。

“AI既有向善的一面，也有向惡的一面。”中國工程院院士、國家數字交換系統工程技術研究中心主任鄔江興認為，AI應用系統安全責任與風險存在嚴重失衡。AI應用系統網絡內生安全的共性問題，在於計算機帶來了“娘胎的基因缺陷”，如果不能杜絕軟硬件代碼設計中的脆弱性，就無法杜絕網絡問題。

據了解，相對於大模型本身的研究，相關的安全研究才剛剛開始，不但任重道遠，而且困難重重：一是對於大模型的解釋性和透明性不足﹔二是安全保障技術存在復雜性和多樣性﹔三是倫理和道德問題的復雜性﹔四是安全測試和風險評估的復雜性。

推動協同共治，匯聚各方力量

多年來，互聯網技術的攻防對抗，宛如一場從未停歇的“正邪較量”。“需要不斷探索新的防護策略來應對日益復雜的數字化環境，數字技術應用既是安全防御的重點，也是保障的有力手段，需要將大數據、AI、物聯網等技術結合，提升保障能力。”中國工程院院士鄔賀銓建議，傳統安全防護手段需要向雲化、服務化轉型，數字安全企業應構建體系化的安全運營服務框架，為各行業提供安全能力，幫助構建和維護安全防御體系。

“不發展是最大的不安全，約束是為了發展，沒有約束的發展是不可持續發展。我們要明確這一思路。”中國互聯網協會副理事長黃澄清呼吁，鼓勵互聯網企業利用AI技術提升安全防御的智能化水平，持續加大在人工智能與數字安全領域的研發投入，促進產學研用深度融合，加速技術成果向產業轉化。

據了解，自今年8月1日起，歐盟《人工智能法案》生效，這是全球首部全面監管人工智能法規。截至目前，已經有數十個國家先后發布了與人工智能相關的國家戰略和法規文件。人工智能的核心關切主要是透明度、公開性、非惡意、負責任、隱私、向善、信任、尊嚴等，治理研究是將這些落實到從大模型部署、開發、計算推理、數據輸入到推廣應用的各個環節。

“人工智能時代，確保網絡安全不僅是發揮互聯網作為全球紐帶的核心要素，更是實現人工智能為人類社會帶來福祉的基礎前提。”在國際合作方面，世界互聯網大會秘書長任賢良表示，我們要推動協同共治，匯聚各方力量，推動數字安全與新一代信息技術協同創新、示范應用、融合發展，構建理論交流、技術合作、人才培養的良好生態。

分享讓更多人看到