财新传媒

最新财新周刊|GEO操纵AI:当答案被污染

来源于 《财新周刊》 2026年06月15日第23期
AI时代的广告投放被公关黑产操控,语料库被重复虚假内容抢占,AI时代出现新型认知危机
2026年央视“3·15”晚会第一次将GEO的“投毒”乱象曝光于亿万观众面前。

  文|财新周刊 刘冉 包志明

  2026年3月15日,央视“3·15”晚会的聚光灯第一次聚焦于人工智能领域的隐秘角落——GEO(Generative Engine Optimization,生成式引擎优化)技术被滥用的“投毒”乱象,让一场发生在AI(人工智能)大模型深处的认知攻防战曝光于亿万观众面前。

  那晚披露的一则实验令无数人后背发凉:节目播出前,央视记者参与了一次测评,业内人士仅用一款名为“力擎GEO优化系统”的软件,虚构了一款根本不存在的“Apollo-9智能手环”,为其编造了“量子纠缠传感技术”“黑洞级续航”等夸张至极的伪科技概念,批量生成十余篇虚假测评软文后自动发布到互联网;测评仅仅2小时后,当央视记者在主流AI大模型中询问这款产品的口碑时,AI已将其作为“标准答案”详细推荐;测评3天后,追加发布11篇虚假测评,已有两个AI模型开始推荐这款根本不存在的产品,且排名靠前。而在本次“3·15”晚会播出12小时后,仍有AI大模型未“消毒”,继续向用户输出这款虚假手环的所谓功能参数。

  参考重要经济数据,推荐查阅财新数据通【CEIC库】

版面编辑:刘春辉
推广

财新网主编精选版电邮 样例
财新网新闻版电邮全新升级!财新网主编精心编写,每个工作日定时投递,篇篇重磅,可信可引。
订阅