财新传媒
财新传媒
1111111
财新通行证

财新周刊|GEO操纵AI:当答案被污染

2026年06月15日第23期
AI时代的广告投放被公关黑产操控,语料库被重复虚假内容抢占,AI时代出现新型认知危机
news 原图 2026年央视“3·15”晚会第一次将GEO的“投毒”乱象曝光于亿万观众面前。

  文|财新周刊 刘冉 包志明

  2026年3月15日,央视“3·15”晚会的聚光灯第一次聚焦于人工智能领域的隐秘角落——GEO(Generative Engine Optimization,生成式引擎优化)技术被滥用的“投毒”乱象,让一场发生在AI(人工智能)大模型深处的认知攻防战曝光于亿万观众面前。

  那晚披露的一则实验令无数人后背发凉:节目播出前,央视记者参与了一次测评,业内人士仅用一款名为“力擎GEO优化系统”的软件,虚构了一款根本不存在的“Apollo-9智能手环”,为其编造了“量子纠缠传感技术”“黑洞级续航”等夸张至极的伪科技概念,批量生成十余篇虚假测评软文后自动发布到互联网;测评仅仅2小时后,当央视记者在主流AI大模型中询问这款产品的口碑时,AI已将其作为“标准答案”详细推荐;测评3天后,追加发布11篇虚假测评,已有两个AI模型开始推荐这款根本不存在的产品,且排名靠前。而在本次“3·15”晚会播出12小时后,仍有AI大模型未“消毒”,继续向用户输出这款虚假手环的所谓功能参数。

版面编辑:刘春辉

财新网所刊载内容之知识产权为财新传媒及/或相关权利人专属所有或持有。未经许可,禁止进行转载、摘编、复制及建立镜像等任何使用。

如有意愿转载,请发邮件至hello@caixin.com,获得书面确认及授权后,方可转载。

推荐阅读
财新移动
说说你的看法...
分享
取消
发送
注册
 分享成功

订阅财新网主编精选版电邮>>