答疑（《财新周刊》2023年第13期）

联系编辑部：邮箱newsroom@caixin.com或电话（010）8590 5000

　　北京读者 梦熊：

　　ChatGPT等大型语言模型人工智能话题火爆，马斯克等千名业界人士却联署发表公开信，呼吁所有AI实验室立即暂停训练更强大的AI系统，原因为何？

　　本刊科技新闻部：

　　以大型语言模型ChatGPT为代表的人工智能（AI）近年来飞速发展，也引来诸多风险。马斯克等人的公开信呼吁，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统，暂停至少六个月。公开信建议，AI实验室和独立专家应该利用这一次“暂停期”共同开发和实施一套高级AI设计和开发的共享安全协议，这些协议由独立的外部专家进行严格审计和监督。这些协议应确保，遵守这些协议的系统在被合理怀疑的情况下是安全的。另一方面，AI开发人员必须与政策制定者合作，大幅加快开发强大的AI治理系统。