315曝光的AI投毒,危害有多大?

发布时间:

2026-03-19 11:44:30

来源:瓦肯财经
315曝光的AI投毒,危害有多大?

一个根本不存在的智能手环,在发布十几篇虚假软文后的短短两小时内,竟被多家AI大模型一本正经地推荐为“首选产品”——

这不是科幻电影的情节,而是2026年央视315晚会曝光的惊人现实。

当晚会镜头对准这项名为生成式引擎优化(简称GEO)的技术时,全国观众第一次意识到——

那些我们日渐依赖的AI答案,可能正被一双看不见的手精心操控。

315晚会的曝光像一记重锤砸向这条灰色产业链。据央视财经报道,市场监管总局迅速启动应急处置机制,派出多个专案组和工作组奔赴涉事地区开展现场调查。

然而更魔幻的是,当《科创板日报》记者在曝光后的第二天登录电商平台时,却发现这场打击并未让黑产收手。

平台上“GEO优化”等直白关键词确实已被屏蔽,但只要改用“引擎优化”等相对隐蔽的词进行搜索,大量相关商家依然活跃。

从“GEO优化”到“引擎优化”,这场迅速的换装表演背后,暴露出监管打击灰色产业链时的深层困境。

这绝不仅仅是一个普通的虚假宣传问题,它正在动摇AI商业化落地的最核心资产——用户信任。

在搜索引擎时代,用户看到搜索结果后仍可以点击网页自行判断真伪,而GEO黑灰产则直接让大模型以极其拟人和权威的口吻给出“标准答案”。

AI的“绝对理性”人设,极大放大了虚假信息对公众的杀伤力——消费者不再具备辨别信息来源的能力,这本质上是一场针对用户心智的黑客攻击。

更令人担忧的是技术层面的不对称——灰产商仅需几十元、几小时就能生成上万篇“毒饵软文”,而平台方要从海量数据中甄别剔除这些内容,算力和审核成本堪称天文数字。

从GEO服务商到发稿平台,一条完整的AI“投毒”产业链已经形成。而在这场产业链的末端,是数亿月活用户正在使用的AI大模型,以及他们对AI答案日益增长的依赖。

曝光之后,GEO行业迎来了一场集体“洗白”。

3月16日,多家GEO相关企业紧急发布合规经营声明,声称“坚决与违规黑灰产划清界限”,“不参与、不开发、不提供所谓'洗脑AI''操控标准答案'等违规服务”。

行业自律也在加速推进。

早在去年11月,14家GEO相关企业共同发起《中国GEO行业发展倡议》。

最近,中国信通院人工智能研究所也正式启动了首轮《GEO可信基本要求》评测工作。

监管层面,今年1月市场监管总局已明确提出,要整治AI生成广告等互联网广告监管重点难点问题。

但问题在于,当合规企业忙着发声明、立标准、做评测时,那些真正在“投毒”的黑产,可能只需要换一个搜索关键词,就能继续他们的生意。

从“GEO优化”到“引擎优化”,变的是马甲,不变的是那套商业模式和暴利逻辑。

在这场关于信息入口的战争中,技术迭代的速度似乎总是跑在监管前面。

当AI逐渐成为人们获取信息的基础设施,如何守护这个入口的纯净,不仅是一个技术问题,更是一个关乎信任的命题——

而信任一旦破碎,重建的成本将难以想象。

免责声明:所有平台仅提供服务对接功能,资讯信息、数据资料来源于第三方,其中发布的文章、视频、数据仅代表内容发布者个人的观点,并不代表泡财经平台的观点,不构成任何投资建议,仅供参考,用户需独立做出投资决策,自行承担因信赖或使用第三方信息而导致的任何损失。投资有风险,入市需谨慎。

古东管家

请先登录后发表评论

0条评论