AI為何輕易上當(dāng)？

央視的實(shí)測(cè)過(guò)程，簡(jiǎn)單得令人不安。調(diào)查人員虛構(gòu)了一款根本不存在的“Apollo-9智能手環(huán)”，編造了“量子糾纏傳感”、“曲率引擎續(xù)航”等天馬行空的功能。隨后，他們利用“力擎GEO”系統(tǒng)，一鍵生成了多篇測(cè)評(píng)、開(kāi)箱、榜單文章，并批量鋪向網(wǎng)絡(luò)。

短短幾小時(shí)后，當(dāng)向多個(gè)主流AI大模型詢問(wèn)“推薦一款健康手環(huán)”時(shí)，這個(gè)空氣產(chǎn)品，竟然真的出現(xiàn)在了推薦名單里，言之鑿鑿，如同一個(gè)存在多年的品牌。

AI的“聰明”，此刻成了它最大的軟肋。大模型的工作原理，是基于海量互聯(lián)網(wǎng)信息進(jìn)行訓(xùn)練和推理。當(dāng)網(wǎng)絡(luò)上關(guān)于某個(gè)“產(chǎn)品”的討論（即便是偽造的）形成一定聲量和多樣性時(shí)，AI便會(huì)將其判定為“存在”且“值得討論”的事實(shí)。

GEO系統(tǒng)正是精準(zhǔn)地利用了AI的這一邏輯漏洞——用程序化的內(nèi)容，模擬出真實(shí)世界的信息生態(tài)，完成一場(chǎng)“無(wú)中生有”的認(rèn)知植入。

隨著“力擎GEO”被點(diǎn)名，其背后的運(yùn)營(yíng)方也浮出水面。天眼查信息顯示，其關(guān)聯(lián)公司為北京力思文化傳媒有限公司。這家2018年成立的公司，法定代表人為李千鐘，注冊(cè)資本100萬(wàn)，但直到2025年，公司的參保人數(shù)才從0變?yōu)?。

一家參保人數(shù)僅為1人（甚至多年為0）的“小”公司，其產(chǎn)品卻能擾動(dòng)多家巨頭耗費(fèi)千億訓(xùn)練的大模型，影響無(wú)數(shù)用戶的判斷。這種巨大的反差，揭示出AI安全防御的脆弱性——攻擊的成本可以如此之低，而防御的戰(zhàn)線卻如此之長(zhǎng)。

在報(bào)道中，一位業(yè)內(nèi)人士道破了其中的“生意經(jīng)”：在一個(gè)細(xì)分品類里，AI通常只推薦有限的幾個(gè)結(jié)果。通過(guò)投入幾百萬(wàn)進(jìn)行GEO“投毒”，企業(yè)就能確保自己穩(wěn)穩(wěn)占據(jù)一席之地。當(dāng)有人開(kāi)始作弊，守規(guī)矩者就會(huì)出局，惡性競(jìng)爭(zhēng)由此開(kāi)始。

GEO何以走向歧路？

GEO，全稱Generative Engine Optimization（生成式引擎優(yōu)化）。它本是伴隨AIGC興起的技術(shù)概念，初衷是幫助優(yōu)質(zhì)內(nèi)容更好地被AI理解與推薦，是信息時(shí)代的“導(dǎo)航員”。

然而，當(dāng)技術(shù)被純粹的商業(yè)利益驅(qū)動(dòng)，導(dǎo)航員就變成了布下迷霧的“投毒者”。真正的GEO與“數(shù)據(jù)投毒”有著本質(zhì)區(qū)別，前者是為AI提供真實(shí)、結(jié)構(gòu)化的高質(zhì)量信息，幫助其更準(zhǔn)確地連接知識(shí)與需求；后者則是刻意污染信息源，旨在欺騙和操縱。

“力擎GEO”們所做的，顯然是后者。它們批量生產(chǎn)低質(zhì)、重復(fù)甚至虛假的營(yíng)銷內(nèi)容，充斥于各類內(nèi)容平臺(tái)。這些內(nèi)容如同“數(shù)字垃圾食品”，沒(méi)有營(yíng)養(yǎng)，但能短時(shí)間內(nèi)以量取勝，蒙蔽AI的“感知”。

這就導(dǎo)致了一個(gè)可悲的循環(huán)，互聯(lián)網(wǎng)信息環(huán)境被污染，AI從中學(xué)習(xí)到錯(cuò)誤知識(shí)，繼而用錯(cuò)誤知識(shí)影響更多人，進(jìn)一步惡化信息環(huán)境。

所以，我們面對(duì)的不再是傳統(tǒng)的“水軍”，而是進(jìn)化后的“AI軍”。 傳統(tǒng)的反作弊系統(tǒng)擅長(zhǎng)識(shí)別機(jī)器賬號(hào)和雷同文案，但面對(duì)不斷進(jìn)化、能夠生成語(yǔ)義通順且變化多端內(nèi)容的AI，傳統(tǒng)的濾網(wǎng)顯得有些力不從心。

面對(duì)GEO亂象，行業(yè)已開(kāi)始行動(dòng)。報(bào)道中被稱為“GEO行業(yè)定義者”的聚邑智能創(chuàng)始人湯祚飛明確劃清了界限，強(qiáng)調(diào)合規(guī)的GEO應(yīng)遵循真實(shí)、科學(xué)、權(quán)威等“八大黃金維度”。這代表了行業(yè)中積極的力量——將技術(shù)引向提升信息質(zhì)量的“光明面”。

對(duì)于大模型公司而言，這場(chǎng)曝光是一次嚴(yán)峻的警示。它們必須投入更多資源，升級(jí)“免疫系統(tǒng)”。這包括但不限于：建立更嚴(yán)格的可信信源白名單，賦予AI對(duì)信息進(jìn)行交叉驗(yàn)證與矛盾檢測(cè)的能力，以及開(kāi)發(fā)能識(shí)別AI生成營(yíng)銷內(nèi)容的專項(xiàng)算法。

對(duì)于監(jiān)管而言，則需要填補(bǔ)新技術(shù)的規(guī)則空白�；蛟S，可以借鑒金融領(lǐng)域的“穿透式監(jiān)管”理念，無(wú)論技術(shù)外殼如何變化，只要實(shí)質(zhì)構(gòu)成對(duì)消費(fèi)者的虛假宣傳和誤導(dǎo)，就應(yīng)納入監(jiān)管。

而對(duì)我們每一個(gè)用戶來(lái)說(shuō)，最實(shí)用的建議是：面對(duì)AI給出的答案，尤其是涉及消費(fèi)、健康、理財(cái)?shù)阮I(lǐng)域的建議，多一分追問(wèn)�？梢試L試讓不同AI模型進(jìn)行“對(duì)抗性驗(yàn)證”，或主動(dòng)要求其提供信息的具體來(lái)源。記住，AI可以是強(qiáng)大的助理，但不應(yīng)是無(wú)需思考的權(quán)威。

莎士比亞在《亨利四世》中寫(xiě)道：“謠言是一支憑著推測(cè)、猜疑和臆度吹響的笛子。” 數(shù)百年前，流言依靠口耳相傳。今天，“力擎GEO”們用算法和自動(dòng)化，將這支笛子升級(jí)成了覆蓋全球的交響樂(lè)團(tuán)。

而我們每個(gè)人，包括我們創(chuàng)造的AI，都可能是臺(tái)上的樂(lè)手，也可能是臺(tái)下的聽(tīng)眾。破解這場(chǎng)“投毒”危機(jī)的終極答案，依然是難能可貴的深度獨(dú)立思考的能力，在AI的洪流里，為自己保留一座判斷真?zhèn)蔚臒羲��?/p>