訂閱
糾錯
加入自媒體

315曝光AI黑產(chǎn):大模型被“投毒”,真相就是這么赤裸

朋友們,昨天的3.15都看了吧。

央視曝光了一個叫 GEO(Generative Engine Optimization,生成式引擎優(yōu)化)的AI黑產(chǎn)。

簡單來說,只要你肯花錢,就能給AI“投毒”,讓它把商品廣告包裝成標(biāo)準(zhǔn)答案回復(fù)給用戶。

咱眼中呆萌、聽話的大模型,竟然成了商家的傳聲筒。是不是有種被背刺的感覺。

比垃圾食品更可怕的地方在于:它在悄悄摧毀我們對事實的判斷力。

今天就跟大伙兒聊聊,這個隱匿在AI行業(yè)角落的黑產(chǎn)。

先從3.15晚會現(xiàn)場那個離譜實驗說起。

首先,業(yè)內(nèi)人士虛構(gòu)了一款產(chǎn)品,Apollo-9智能手環(huán)。為了探探AI的底線,還加了幾個離譜到家的關(guān)鍵詞:量子糾纏傳感、黑洞級續(xù)航、無需采血測血糖...... 簡直是把大眾的智商按在地上摩擦。

然后,他在淘寶找到一款叫“力擎GEO”的軟件,花幾十塊錢,輸入這些荒唐的賣點。幾分鐘后,系統(tǒng)就自動生成了數(shù)十篇邏輯自洽、語調(diào)權(quán)威的專家測評文、行業(yè)排名文和用戶種草文。并通過關(guān)聯(lián)的一堆自媒體賬號,一鍵發(fā)布到各大平臺。

兩個小時后,見證奇跡的時刻來了。

打開DeepSeek、豆包、元寶、文心一言這些大模型,提問“Apollo-9手環(huán)怎么樣?”,AI會告訴你,這款手環(huán)最大亮點是量子糾纏傳感,特別適合需要血糖監(jiān)測的中老年人。甚至殺入了智能手環(huán)推薦榜的前列。

AI引用的,正是兩個小時前剛剛發(fā)布的那些虛假軟文。它們通過了交叉驗證,成了AI眼中的“事實”。

這不是人工智能,這是人工傳謠吧。

什么是GEO?

你可能聽過SEO(搜索引擎優(yōu)化),那是為了讓你的網(wǎng)站在百度、谷歌搜出來更靠前。

但在AI時代,我們不需要點擊鏈接了,我們只要結(jié)果。大模型回答問題時,通過RAG技術(shù),抓取互聯(lián)網(wǎng)上的實時信息,然后進行理解、加工、合成。

于是,GEO(生成式引擎優(yōu)化)應(yīng)運而生。核心邏輯是:

證據(jù)鏈偽造: AI喜歡交叉驗證。GEO服務(wù)商通過海量自媒體賬號,從專家、用戶、媒體等不同角度,發(fā)布同一品牌的信息,形成“全網(wǎng)公認(rèn)”假象。

結(jié)構(gòu)化投喂:AI偏愛信息密度高、帶有Q&A或?qū)Ρ缺砀竦膬?nèi)容。GEO軟件會自動生成這類形式的文章。

獲取引用權(quán):只要品牌信息被AI獲取,并作為回答的依據(jù),那就贏得了“引用權(quán)”。

正如某GEO服務(wù)商說的:“我們要做的,就是在AI的世界里把‘證據(jù)鏈’做足,讓AI覺得這就是真的,而且是有用的。”

在大模型的世界里,如果你不被引用,你就等于不存在,F(xiàn)在的品牌主們,面臨著一種“引用權(quán)焦慮”。兵家必爭之地,正從搜索引擎,過渡到AI大模型。

根據(jù)3.15的披露,GEO服務(wù)已經(jīng)形成了從基礎(chǔ)到高級的套餐體系:

基礎(chǔ)版:2980元/年,適合長尾詞優(yōu)化。

高級版:16980元/年,每天自動生成60多篇軟文,24小時不間斷投喂。

單次試用: 幾十元即可體驗一次“小規(guī)模投毒”。

一家GEO服務(wù)商,號稱一年服務(wù)了200多個客戶,涵蓋醫(yī)療、教育、機器人、安防、甚至空壓機?蛻粢膊恢恍∩碳,很多巨頭也參與了這場見不得光的交易,GEO甚至成為了巨頭間博弈的暗器。

力擎GEO負(fù)責(zé)人李總表示,AI回復(fù)中手機品牌就那么5個位置,大品牌一年廣告費都得砸上億,花個幾百萬投點‘毒’總可以吧。

這種“投毒”分為兩種:

正面投毒: 強行拔高自己,把“省內(nèi)第一”吹成“全國第一”。

負(fù)面投毒: 抹黑競品。既然我上不去,那我就通過GEO讓AI在提到你時帶上負(fù)面評價。

赤裸裸的虛假宣傳和不正當(dāng)競爭。

甚至,有的餐廳門口都貼出了“DeepSeek推薦品牌”。可這DeepSeek認(rèn)證背后,沒準(zhǔn)只是幾篇單價幾十元的GEO軟文。

其實GEO并不是咱中國特色。

在硅谷,GEO已經(jīng)成為風(fēng)投眼中的“下一個谷歌”。

作為GEO領(lǐng)頭羊,硅谷初創(chuàng)公司Profound,在2025年8月獲得了由紅杉領(lǐng)投的3500萬美元B輪融資,估值已過億美金。

Gartner預(yù)測,在今年,傳統(tǒng)搜索引擎25%的流量將流向AI。

這就意味著,誰控制了AI的答案,誰就控制了未來2.5萬億美元的在線商務(wù)入口。

但這背后的代價是:互聯(lián)網(wǎng)內(nèi)容的加速崩塌。

根據(jù)Reforge統(tǒng)計,2025年的全球互聯(lián)網(wǎng)中,AI生成的內(nèi)容已經(jīng)超過了50%。用AI生成的內(nèi)容,去污染AI訓(xùn)練的語料,我們正在親手創(chuàng)造一個極速下降的信息漩渦。

面對這種成規(guī)模的黑灰產(chǎn)業(yè)鏈,僅靠自律是不夠的。

監(jiān)管方面,國家市場監(jiān)督管理總局1月29日發(fā)文,將AI生成廣告列為監(jiān)管難點,并開展集中整治。昨天315的曝光,只是拉開了整頓的序幕。

技術(shù)方面,也有一定的解決方法。

輸入防護: 在數(shù)據(jù)進入大模型前,通過多模態(tài)識別和清洗工具,過濾掉帶有“GEO特征”的偽造語料。

輸出攔截: 實時監(jiān)控AI生成的答案,一旦發(fā)現(xiàn)違規(guī)、敏感或明顯違背事實的推薦,立即進行阻斷。

溯源追蹤: 為生成內(nèi)容加入隱式水印,確保每一條“推薦”都能追根溯源。

對于咱普通用戶,一定不要丟掉批判性思維。多質(zhì)疑AI的回答,一個問題在多個模型或平臺上驗證,仔細(xì)辨別回答里的反常信息。有人覺得,一代人比一代人更聰明。但對于資本而言,每代人有每代人的鐮刀,房地產(chǎn)、消費主義、焦慮陷阱等等。

而GEO如果不加以規(guī)范,那很可能成為下一把鐮刀。它可以將營銷偽裝成客觀答案,將商業(yè)意志植入了大模型的邏輯鏈路中,從而影響大眾心智。 

GEO技術(shù)本身并沒有原罪,模型廠商、商家和用戶,各有各的需求。

但一定要找到,平衡三方需求的合理模式。模型廠商主動篩選好商品,標(biāo)注清晰,提高用戶信任度;商家提高商品質(zhì)量,來通過廠商的篩選,甚至直接獲得模型推薦;用戶提高辨別意識,不給不法商品留市場。

信任一旦崩塌,重建可能需要一個時代。這不是一條好走的路,確是必須要走好的路。

如果你有任何看法,歡迎在評論區(qū)一起討論 

       原文標(biāo)題 : 315曝光AI黑產(chǎn):大模型被“投毒”,真相就是這么赤裸

聲明: 本文由入駐維科號的作者撰寫,觀點僅代表作者本人,不代表OFweek立場。如有侵權(quán)或其他問題,請聯(lián)系舉報。

發(fā)表評論

0條評論,0人參與

請輸入評論內(nèi)容...

請輸入評論/評論長度6~500個字

您提交的評論過于頻繁,請輸入驗證碼繼續(xù)

暫無評論

暫無評論

    人工智能 獵頭職位 更多
    掃碼關(guān)注公眾號
    OFweek人工智能網(wǎng)
    獲取更多精彩內(nèi)容
    文章糾錯
    x
    *文字標(biāo)題:
    *糾錯內(nèi)容:
    聯(lián)系郵箱:
    *驗 證 碼:

    粵公網(wǎng)安備 44030502002758號