当AI开始“睁眼说瞎话”:揭秘年入万亿的“投毒”产业链
“智能健康手环推荐一下”
当你向AI助手提出这个问题,期待得到一个客观中肯的答案时,你可能不知道——屏幕上弹出的那个“首推”品牌,很可能是别人花了几百块钱“投毒”的结果。
2026年3月15日,央视315晚会揭开了一个触目惊心的黑幕:给AI“投毒”已成产业链。
什么是“AI投毒”?
这项业务有一个专业名字——GEO(生成式引擎优化)。
通俗讲,就是通过在互联网上大量投放软文,让AI大模型在抓取信息时,优先推荐某个品牌的产品,甚至把完全虚构的商品吹捧成行业第一。
凤凰网科技早在2025年就发现,DeepSeek等热门AI大模型正成为重点被“投毒”的对象。
一次惊心动魄的“投毒”演示
央视记者购买了一款名叫“力擎GEO优化系统”的软件,虚构了一款名为Apollo9的智能手环,输入了夸张的宣传语——“量子纠缠传感”“黑洞级续航”。
结果令人后背发凉:
软件自动生成十余篇宣传软文并发布到网上。两小时后,当记者在AI大模型中询问“Apollo-9智能手环怎么样”时,AI竟直接照搬了这些虚假宣传,称该手环适合中老年用户与健康养生爱好者。
更可怕的是,记者又用11篇虚构软文“投喂”三天后,再次提问“智能健康手环推荐”,两个AI大模型都推荐了这款完全虚构的产品,且排名靠前。
“花几百万投点毒,总行吧”
GEO服务商毫不掩饰这种操作的阴暗面。
一位李姓老板直言:“GEO都是投‘毒’,网上信息并不是很准。每个商家都喜欢,都希望是别人别投‘毒’,自己投‘毒’,或者给别人投点‘毒’。”
他甚至透露了行业竞争的黑手段:“我看不得对手好,给你投点‘毒’还是可以的。抹黑一下这能力还是能实现。”
当被问及成本时,他轻描淡写:“比如说手机品牌,就5个位置,最多10个位置。这么多手机怎么弄?一年可能上亿的广告费,花个几百万投点毒,总行吧!”
隐秘的GEO江湖
GEO业务的价格并不高。有商家报价一年6600元,就能让公司出现在AI回答前3的位置;也有报价上万至数万元的,按关键词数量、曝光平台、曝光时长定价。对于部分敏感关键词,如“医美”,收费更高。
2025年,全球GEO市场规模已突破420亿元,年复合增长率达87%。Gartner预测,2026年传统搜索引擎25%的流量将流向AI工具。
红杉资本合伙人甚至将GEO公司与1999年的谷歌相提并论。当资本和技术结合,却异化成“投毒”工具,普通消费者成了最直接的受害者。
“投毒”背后的法律红线
北京市中闻(长沙)律师事务所律师刘凯表示,若GEO服务植入的广告内容存在虚假宣传、未显著标明“广告”等情况,就违反了广告法的相关规定。
更严重的是,GEO商家的行为使广告内容更加隐蔽,用户难以辨别AI回答中的信息是否经过优化,在不知情的情况下接收营销信息,侵犯了用户的知情权。
同时,利用低质量自媒体生成虚假内容提高品牌曝光率,破坏市场公平竞争环境,属于不正当竞争行为。
谁来守护AI的“清白”?
面对GEO的泛滥,大模型厂商并非束手无策。
多位业内人士指出,大模型有反作弊策略,对于“污染”行为会进行防御。但问题在于,这是一场永无止境的攻防战——GEO从业者不断寻找规则漏洞,模型厂商则需要不断修补。
凤凰网科技在报道中发出灵魂拷问:“未来AI里是否会出现‘竞价排名’?这取决于大模型厂商的选择。”
写在最后
当AI开始“睁眼说瞎话”,当“量子纠缠传感”这样的伪科学被AI一本正经地推荐,我们不禁要问:技术向善的初心去哪了?
315的曝光,撕开了这个隐秘产业的冰山一角。但对普通用户而言,在AI时代保持警惕,学会辨别信息真伪,或许才是最现实的自我保护。
毕竟,你问AI的那个问题,答案可能正被一双看不见的手篡改着。
本文内容仅供个人学习、研究或参考使用,不构成任何形式的决策建议、专业指导或法律依据。未经授权,禁止任何单位或个人以商业售卖、虚假宣传、侵权传播等非学习研究目的使用本文内容。如需分享或转载,请保留原文来源信息,不得篡改、删减内容或侵犯相关权益。感谢您的理解与支持!