人民網
人民網>>科普中國

沖上熱搜的AI投毒,究竟投了啥“毒”?

2026年03月26日10:32 | 來源:人民網-科普中國
訂閱已訂閱已收藏收藏小字號

AI真是太香了!大事小情問問AI,我們總能得到的“貼心周到”的答復,正因為AI用得如此“得心應手”,所以才讓不法分子有機可乘。今年“3·15”晚會曝光了AI最新騙局——GEO(生成式引擎優化)“投毒”黑產。作為AI投毒事件的“主犯” SEO和GEO,它們被冤枉了嗎?

SEO和GEO到底是什麼?

SEO:搜索引擎優化

SEO 的全稱是搜索引擎優化(Search Engine Optimization),這是一項傳統互聯網優化技術,不是搜索引擎,更沒有 AI 的智能決策或生成能力。我們對 SEO 並不陌生:它能讓某條信息在被搜索時排位更靠前、被優先看到。也就是說,SEO 能讓信息獲得更高的曝光機會,吸引用戶注意力,從而獲得更多點擊。

簡單說,SEO是針對用戶主動搜索的引流方式。工具本身沒有惡意,誰在使用、用於什麼內容,才是是否作惡的關鍵。

GEO:生成式引擎優化

同樣是 “引擎優化”,SEO主要用於傳統搜索引擎,GEO (Generative Engine Optimization)面向生成式 AI應用場景。GEO 不是 AI 工具,不是軟件,也不是模型,而是一套針對 AI 系統的內容優化策略與技術手法。實際上,GEO的本意是讓真實、權威的信息更容易被 AI檢索、引用,並不是專門用來“污染”模型的,而是旨在提升內容在生成式答案中的可見性與引用率。

由此,我們見証了互聯網的信息獲取方式,經歷了一次徹底的代際更替:從人找信息,變成了 AI 給答案。

SEO 和 GEO就是這兩個時代對應的信息優化規則。

SEO和GEO的“本意”為何會“黑化”?

GEO 的本意都是 “優化”,但是被不法分子利用后,就變成了“黑帽”行為。 “黑帽”泛指通過違規、作弊、鑽系統漏洞等不正當手段,操縱平台、搜索引擎或 AI 系統結果的行為與技術手法。黑帽GEO才是真正的“主犯”。

1、黑帽SEO是在污染互聯網的 “信息水源”:

攻擊目標:搜索引擎的索引庫

核心邏輯:利用搜索引擎爬虫抓取規則與排名算法漏洞,通過偽造流量與內容質量信號,讓虛假/低質內容強行排到搜索結果前列。

主要手段:關鍵詞堆砌、垃圾外鏈、採集偽原創、隱藏文字、站群流量劫持等。

影響時效:相對較短,搜索引擎算法更新后,違規內容的排名容易被清除﹔且污染范圍是“全互聯網表層公開信息”,屬於無差別污染。

對 AI 的影響:間接影響。AI 在聯網檢索時,會抓取互聯網表層公開信息﹔若黑帽SEO將大量垃圾、虛假內容推到搜索顯眼位置,AI 可能誤將這些虛假信息當作真實內容引用。

與黑帽SEO的間接影響不同,黑帽 GEO 是直接操控 AI 的信息輸入。

2、黑帽GEO是在污染AI可直接檢索的“信息水源”

攻擊目標:AI 可訪問的公開網絡信息源(論壇、博客、自媒體等)

核心邏輯:利用AI對公開網絡信息的檢索與引用機制,通過偽造信源密度與權威性,讓批量制造的虛假內容被AI當作"參考資料"整合進答案,實現對AI輸出內容的定向操控。

主要手段:批量偽造內容、刷評造假、語義劫持(即通過大量重復特定話術,強行關聯產品與正面評價)、偽造權威背書。

影響時效:相對較長,一旦錯誤信息被AI系統索引並頻繁引用,影響會更持久﹔且污染范圍是“AI可檢索的公開網絡信息”,屬於精准定向污染。不法分子可針對特定產品、人物或事件定制虛假信息,實現“指哪兒打哪兒”的操控效果。

對 AI 的影響:直接、定向操控。不法分子通過黑帽GEO策略,批量偽造內容並發布在AI常檢索的渠道,讓AI在回答時直接抓取、轉述這些預設好的虛假信息。

當你覺得 AI “很懂你”,推薦的產品 “正中下懷” 時,那可能正是黑帽GEO為你量身定制的信息的誘餌。

如何避開“黑帽陷阱”

大多數人習慣認為 AI 工具是客觀、中立的,就像相信計算器不會算錯、地圖不會亂指路一樣,但 AI 與傳統工具有本質區別:它具備智能性,能生成流暢、有條理的內容,這讓很多人誤以為它擁有和人類一樣的思考、理解與真偽判斷能力。

但事實上是——

AI 並不真正“理解”信息﹔

它沒有主觀判斷,不知道真假、對錯、好壞﹔

它做的不是人類意義上的'理解+總結',而是基於概率的模式匹配與語言生成﹔它不具備主觀判斷能力,無法像人類一樣核實真偽,只能依據訓練數據與檢索內容中的統計相關性組織答案﹔

我們看到的“信息整合”,只是它模仿人類寫作結構產生的假象﹔

當錯誤信息在網絡上被大規模重復、包裝成看似可信的來源時,確實會增加 AI 將其納入回答的風險。

因此,我們對 AI 輸出的內容要保持合理懷疑,而不是百分之百信任,因為這種信任會給不法分子制造可乘之機。面對信息誤導,大家也無需恐慌,只要多加留意,完全有能力辨別 AI 制造的虛假信息。

查來源,更要查來源是否權威 涉及花錢、看病、理財等重要決策,務必要核查信息來源。

優先認准政府/教育機構專屬域名:如 .gov.cn(中國政府)、.edu.cn(中國高校)。這些后綴需機構資質審核,偽造難度極高。

警惕開放域名的偽裝:.com、.cn、.org 等后綴申請門檻較低,無嚴格資質審核,付費即可注冊。不能隻看后綴,還要看備案信息、主辦單位資質。

警惕域名怪異、隻推單一產品、成立時間極短的“馬甲”信源或“幽靈”站點﹔

若 AI 無法提供明確來源或來源鏈接失效、不可查証 → 直接不採信。

多驗証,不把 AI 當作唯一答案 健康、消費、法律、理財等領域,絕對不能隻聽 AI。

買產品:去正規電商平台查資質、看真實評價﹔

查政策:去政府官網、權威媒體交叉驗証﹔

多個 AI 的回答無論一致還是不一致,都不能單獨作為真假判斷依據﹔關鍵仍是回到原始來源核查。

辨夸張,警惕過度完美的描述 如果 AI 頻繁出現:“獨家”“唯一”“最優質”“必買”“包治百病”,且始終圍繞某一款產品、某一家機構,一定要高度警惕。真實世界裡,幾乎沒有“完美到沒有差評”的產品。

看一致,重點警惕異常的一致性 很多人以為:“AI 每次回答都一樣,肯定更靠譜。”這是典型誤區。異常、機械、高度統一,才是危險信號。

正常AI回答會因模型隨機性產生表述差異,但核心事實應一致。如果多次回答引用的來源完全相同(如同一未知博客、同一論壇帖子),且該來源非權威渠道,極可能是 GEO 黑產批量投毒的結果。真實信息是多元的,隻有被操縱的數據才會整齊劃一。

如果答案差異較大,說明該信息可能尚未被黑產統一操控,或者該領域本身存在爭議。無論哪種情況,都更需結合權威渠道進一步核實,切勿輕信單一結論。

警惕 AI 的實時檢索功能 當 AI 開啟聯網搜索(Web Search)或接入特定知識庫(RAG)時,黑帽 GEO 的污染風險最高。如果AI 回答中頻繁引用近期發布的論壇帖子、自媒體文章、用戶評測等非權威內容,需要高度警惕。

AI 是工具,不是權威﹔是助手,不是答案本身。黑帽GEO、黑帽SEO 本質是利用了我們對技術的盲目信任與認知惰性。只要我們堅持理性對待、多方驗証、核查來源,就能在享受 AI 便利的同時,避開信息誤導的坑。

作者:小青 科普中國簽約作者

審核: 蘭名滎 北京郵電大學數字媒體與設計藝術學院副教授

策劃:閻冬

更多精彩內容,請下載科普中國客戶端。

返回人民網科普頻道

(責編:邢鄭、楊鴻光)

分享讓更多人看到

返回頂部