财新传媒

专栏|当AI伤害了人

来源于 《财新周刊》 2026年11月23日第45期
原告借助美国传统侵权法中的产品责任和过失责任制度,要求法院回答一个新问题:AI系统在什么情况下可以被视为产品?企业对模型输出、产品设计、安全机制和风险警示应当承担多大程度的法律责任
当企业明知用户可能将AI用于医疗、心理健康等高风险领域时,应当采取怎样的安全措施?图:视觉中国

  文|蒋金晗
  律师

01

  2026年10月27日,万博文的父母在美国加州起诉OpenAI及其负责人,指控ChatGPT在与女儿的长期对话中提供了危险的用药建议,最终导致31岁的中国籍女性万博文死亡。

  万博文14岁时确诊癫痫,但她在中国某县城最好的中学就读,数学与英语成绩始终位列班级第一。19岁时,她从中国一所211大学的机械工程专业离校,赴美进入亚利桑那州立大学读计算机科学专业本科。2019年11月,25岁的万博文入职亚马逊,担任软件工程师。

[《财新周刊》印刷版,按此优惠订阅全年,按此收藏单期,随时起刊,免费快递。]

版面编辑:刘春辉
推广

财新网主编精选版电邮 样例
财新网新闻版电邮全新升级!财新网主编精心编写,每个工作日定时投递,篇篇重磅,可信可引。
订阅