訂閱
糾錯(cuò)
加入自媒體

給AI投毒成黑產(chǎn),傳統(tǒng)搜索可以打一場“信任重構(gòu)”戰(zhàn)

文|唐辰 圖|AI生成

傳統(tǒng)搜索的價(jià)值被GEO放大了。

剛結(jié)束的315晚會(huì),焦點(diǎn)之一是針對AI領(lǐng)域的“打假”。一項(xiàng)名為“GEO(Generative Engine Optimization,生成式引擎優(yōu)化)”的黑灰產(chǎn)業(yè)務(wù)被曝光。

晚會(huì)曝光了一則案例,一款純虛構(gòu)的商品,主要十余篇軟文,花費(fèi)幾十元,就可以將虛假產(chǎn)品信息成功“投喂”給AI大模型,并在幾天內(nèi)獲得推薦,甚至“名列前茅”。即便這款產(chǎn)品從來就是子虛烏有。

AI生成內(nèi)容被“明碼標(biāo)價(jià)”

根據(jù)服務(wù)商的描述,它的工作流程很簡單:客戶付費(fèi),系統(tǒng)自動(dòng)生成軟文,批量在全網(wǎng)發(fā)布,等待AI抓取、引用,最后成為大模型的“標(biāo)準(zhǔn)答案”。

我注意到,在被曝光服務(wù)商的官網(wǎng),DeepSeek、豆包、元寶、Kimi、納米AI、智譜清言等大模型都在列。這意味著,他們的業(yè)務(wù)覆蓋了當(dāng)前幾乎所有國內(nèi)最熱門的大模型。

一家業(yè)內(nèi)知名GEO服務(wù)商的負(fù)責(zé)人還介紹,他們公司是最早從事GEO業(yè)務(wù)的公司之一,僅僅一年時(shí)間就已經(jīng)成功服務(wù)了200多個(gè)客戶,遍布各行各業(yè)。

他毫不隱晦的表示,GEO業(yè)務(wù)受熱捧,就是因?yàn)樗茉贏I大模型里幫客戶“喂料投毒”,實(shí)現(xiàn)客戶的商業(yè)目的。

這套業(yè)務(wù)流程也被直白的冠名為“給AI投毒”。此外,部分服務(wù)商還提供“抹黑競品”(黑公關(guān))服務(wù),即通過向AI投喂虛假或者污蔑信息,來干擾競爭對手的搜索表現(xiàn)。

當(dāng)AI生成的內(nèi)容被明碼標(biāo)價(jià),各AI廠商主推的AI助手就淪為黑產(chǎn)的“廣告機(jī)”甚至“造糞機(jī)”。給AI投毒,也就成了新的黑灰色產(chǎn)業(yè)鏈,形成圍獵AI、獲取暴利的生態(tài)。

這也導(dǎo)致很多不明就里的普通用戶,直接把GEO和“造假、投毒、詐騙”劃等號,喊著要徹底封殺。

但GEO并不是洪水猛獸。這項(xiàng)技術(shù)的初衷,是針對大模型的信息抓取邏輯,進(jìn)行合規(guī)的內(nèi)容優(yōu)化與信息分發(fā)。其核心任務(wù)是幫助優(yōu)質(zhì)內(nèi)容被 AI 更精準(zhǔn)識(shí)別、更高效觸達(dá)用戶。同時(shí),它還能減少AI本身的“幻覺問題”。

這和傳統(tǒng)搜索引擎上的白帽SEO,也就是遵循搜索引擎規(guī)則的正規(guī)優(yōu)化手段類似,通過正當(dāng)?shù)姆绞教嵘W(wǎng)站自然排名,以提供更好的用戶體驗(yàn)。

這個(gè)價(jià)值是正向且被肯定的。比如在評價(jià)AI被投毒時(shí),央視稱,GEO技術(shù)本身只是一個(gè)優(yōu)化信息分發(fā)的工具,是AI時(shí)代的新型營銷服務(wù)之一。但一本好經(jīng)總被市場上一些“歪嘴和尚”故意念歪念錯(cuò),用于牟利,損害了消費(fèi)者權(quán)益,也擾亂了行業(yè)生態(tài)。

服務(wù)商聲稱能“馴服”并完全操控AI,這不僅是一種營銷話術(shù),也是在鉆監(jiān)管滯后、審核體系不完善以及行業(yè)發(fā)展初期的階段性漏洞的空子。

事實(shí)上,目前主流AI大模型擁有復(fù)雜的對齊機(jī)制和反作弊算法,GEO黑產(chǎn)想要徹底“投毒”,并且“操控”AI在所有場景下都輸出特定結(jié)果,是難度極高、成本巨大的工程。所謂“付費(fèi)即可獲得標(biāo)準(zhǔn)答案”,也多是針對特定長尾問題,利用大模型的幻覺和檢索源偏差制造的局部假象。

本質(zhì)是AI時(shí)代的信任危機(jī)

AI搜索,或者說ChatBot式產(chǎn)品,主打“一步到位,直接給答案”,看似在顛覆傳統(tǒng)搜索,卻藏著先天缺陷:

一是答案來源不透明。大模型本身都無法分別是官方信息、營銷軟文或者是虛假信息,更別說普通用戶;

二是,大模型本身因?yàn)檎Z料、數(shù)據(jù)源等問題,存在嚴(yán)重幻覺。并且輸出口徑單一,缺乏多源對比,回溯驗(yàn)證機(jī)制,一旦被投毒,便會(huì)出現(xiàn)“中毒”跡象,甚至全盤失真。也就是常說的“胡說八道”,AI幻覺。

簡單點(diǎn)說,AI追求極致效率,卻丟掉了最核心的可信度。GEO黑產(chǎn)恰恰把AI的這個(gè)短板放大到了極致。

圖|央視網(wǎng)截圖

CEO被異化為黑產(chǎn)的根源也在于,流量焦慮與商業(yè)利益驅(qū)動(dòng):品牌方為搶占AI推薦位,不惜用虛假信息“圍獵”模型;服務(wù)商將“投毒”包裝為“AI背書”,誤導(dǎo)、收割消費(fèi)者。

這本質(zhì)上是一場因信任缺失而引發(fā)的逐利亂象。

傳統(tǒng)互聯(lián)網(wǎng),包括移動(dòng)互聯(lián)網(wǎng)時(shí)代,用戶習(xí)慣了“廣告歸廣告,內(nèi)容歸內(nèi)容”。就算信息流推崇的“內(nèi)容即廣告”,也被逐步被嚴(yán)格區(qū)分。

但是到了AI時(shí)代,廣告與內(nèi)容的界限被模糊了,也增加了用戶進(jìn)行內(nèi)容消費(fèi)的“不確定性”。

這種不確定性正在引發(fā)一場信任危機(jī),AI的價(jià)值被虛假信息稀釋。而隨著GEO黑產(chǎn)的曝光,傳統(tǒng)搜索的不少優(yōu)勢也被重新看到。

比如可溯源的透明驗(yàn)證機(jī)制。雖然不少人斷言“傳統(tǒng)搜索引擎已死”,也不再習(xí)慣點(diǎn)擊藍(lán)色鏈接去獲取信息。但因?yàn)檫@種鏈接列表,用戶可以自行驗(yàn)證權(quán)威信息來源。

以百度百科的 “本尊認(rèn)證” 為例,為確保詞條主體真實(shí),百度搜索建立 “智能評估 + 溯源校準(zhǔn) + 權(quán)威認(rèn)證” 三重機(jī)制,能有效過濾違規(guī)內(nèi)容。這種“把選擇權(quán)交給用戶”的機(jī)制,本身就是對信任的一種保護(hù)。

再如成熟的信任風(fēng)控體系。以百度、谷歌為代表的傳統(tǒng)搜索廠商,歷經(jīng)多年與黑灰產(chǎn)的博弈,建立起內(nèi)容審核機(jī)制和反作弊算法體系,搭配完整的辟謠機(jī)制與內(nèi)容溯源功能,成為保證信息可靠性的城池。

這也是為什么,我在使用AI工具獲取關(guān)鍵信息后,還會(huì)第一時(shí)間打開百度、谷歌等傳統(tǒng)搜索引擎,進(jìn)行交叉驗(yàn)證。

基于此,我有一個(gè)預(yù)判:在未來很長一段時(shí)間內(nèi),傳統(tǒng)搜索不會(huì)被AI搜索或者chatbot淘汰,即使無法回到巔峰,其也會(huì)以差異化服務(wù)獲得足夠的生存空間,與AI共存;蛟S會(huì)形成這樣的分工:

日常閑聊、文案生成、常識(shí)查詢、快速總結(jié)等,交給AI,快捷高效;

醫(yī)療咨詢、法律援助、專業(yè)學(xué)科、消費(fèi)決策等,回歸傳統(tǒng)搜索,真實(shí)可信。

傳統(tǒng)搜索甚至還可以打一場“信任重構(gòu)”之戰(zhàn),成為AI時(shí)代的信任代理。類似百度等傳統(tǒng)搜索服務(wù)巨頭,在AI轉(zhuǎn)型的陣痛中,還可以嘗試推出“可信AI搜索”模式、建立行業(yè)標(biāo)準(zhǔn)等方式,定義合規(guī)的GEO邊界,讓“AI投毒”的成本遠(yuǎn)高于收益。

315晚會(huì)是一個(gè)契機(jī),它揭示了AI時(shí)代的一個(gè)道理:信任,也將成為所有AI超級入口的核心競爭力。

這是因?yàn),AI技術(shù)的迭代,對人機(jī)交互形式改變,都無法改變用戶的核心訴求:獲取真實(shí)、可靠的信息或服務(wù)。

對于百度等傳統(tǒng)搜索引擎而言,這不僅僅是一次防守反擊,更是一次重塑價(jià)值的歷史契機(jī)。若能將“可信”打造為核心能力,它也可以是向AI轉(zhuǎn)型的一道緩沖帶。

       原文標(biāo)題 : 給AI投毒成黑產(chǎn),傳統(tǒng)搜索可以打一場“信任重構(gòu)”戰(zhàn)

聲明: 本文由入駐維科號的作者撰寫,觀點(diǎn)僅代表作者本人,不代表OFweek立場。如有侵權(quán)或其他問題,請聯(lián)系舉報(bào)。

發(fā)表評論

0條評論,0人參與

請輸入評論內(nèi)容...

請輸入評論/評論長度6~500個(gè)字

您提交的評論過于頻繁,請輸入驗(yàn)證碼繼續(xù)

  • 看不清,點(diǎn)擊換一張  刷新

暫無評論

暫無評論

    人工智能 獵頭職位 更多
    掃碼關(guān)注公眾號
    OFweek人工智能網(wǎng)
    獲取更多精彩內(nèi)容
    文章糾錯(cuò)
    x
    *文字標(biāo)題:
    *糾錯(cuò)內(nèi)容:
    聯(lián)系郵箱:
    *驗(yàn) 證 碼:

    粵公網(wǎng)安備 44030502002758號