315晚會|AI搜索造假成產業鏈!GEO技術變投毒工具 假產品能上榜

撰文:快科技
出版:更新:

在人工智能深度融入生活的今天,人們已經習慣於向AI大模型尋求答案,然而今年的315晚會卻揭開了AI搜索背後黑灰產業鏈。一種名為GEO( Generative Engine Optimization,生成式引擎優化)的技術正被不法服務商利用,演變為向AI大模型「投毒」的工具。

調查發現,網絡上大量GEO服務商公開招攬業務,宣稱只需支付費用即可讓產品在主流AI大模型中榜上有名。

某知名GEO服務商負責人直言,其核心操作就是「做軟文,讓AI平台去刷錄、輸入、抓取」,並強調由於AI算法更新頻繁,必須持續大量投餵推廣內容才能維持推薦位。

網絡上大量GEO服務商公開招攬業務,宣稱只需支付費用即可讓產品在主流AI大模型中榜上有名。(unsplash@Aerps.com)
+12

為驗證操控效果,記者在電商平台購買「力擎GEO優化系統」進行實測,虛構一款智能手環並輸入產品訊息後,系統自動生成十餘篇宣傳軟文。將這些虛假內容發布上網後,在AI大模型平台詢問「智能健康手環推薦」,兩款主流AI竟將這款不存在的產品列為優先推薦,排名靠前。

力擎GEO系統運營者李總表示,GEO業務受熱捧的主要原因就是它能在AI大模型裏幫客戶餵料、投毒,實現客戶的商業目的。「比如說手機品牌,就5個位置,最多10個位置,這麼多手機怎麼弄。一年可能上億的廣告費,花個幾百萬投點毒,總行吧」!

此外GEO業務已催生出專門的發稿公司和平台,長期承攬各類軟文發布,成為圍獵AI大模型、進行數據「投毒」的關鍵環節。

【延伸閱讀】OpenClaw成為老少皆宜工具?全民瘋養AI龍蝦 這漏洞恐洩個人私隱(點擊連結看全文)

+4

【本文獲「快科技」授權轉載,微信公眾號:mydrivers】