专栏｜AI胡说八道该由谁担责？

　　文｜蒋金晗
　　律师

　　生成式AI发展初期，“快速行动，大胆试错”是行业核心准则。但近年来，这种“试错”早已超出软件调试的范畴，甚至触及个人名誉、法律契约与消费者信任的边界。其中，AI幻觉（生成虚假或捏造信息）已成全球诉讼的核心焦点，“AI输出错误信息该由谁担责”成为各国法院亟待明确的命题。

　　杭州互联网法院近期审理了国内首例因AI幻觉引发的侵权案：用户梁某通过某AI产品咨询高校招生信息，该AI捏造了并不存在的大学校区；梁某提出质疑后，该AI作出“若信息有误则赔偿10万元”的承诺。这起纠纷直指AI领域核心法律难题：错误信息产生的责任，该由开发方、使用方还是AI自身承担？