财新观察｜与其呼吁减速 不如严守AI安全底线

　　9月14日，中国全国网络安全标准化技术委员会发布《人工智能安全治理框架3.0》。它延续了中国政府此前发表的《全球人工智能治理倡议》中坚持智能向善、发展和安全并重的核心思路，是中国人工智能（AI）安全治理从“管模型内容”迈向“管智能体全生命周期运行”的标志性文件，有望重构产业合规基线，完善全链条风险防控体系，也为全球AI治理贡献了中国方案。

　　而在海外，AI安全焦虑又在发酵。近日，美国AI公司Anthropic创始人及CEO达里奥·阿莫代伊（Dario Amodei）发布长文，呼吁减慢AI模型能力提升的速度。由于用AI来研发下一代AI的能力不断提升，“递归式自我改进”将令AI发展速度大幅加快；倘若缺乏有效约束，AI发展可能超出人类理解范围并使我们失去对这些系统的控制。此后，多位重量级人士加入讨论。特斯拉CEO马斯克和OpenAI创始人及CEO萨姆·奥尔特曼都转发了阿莫代伊的帖子，赞同其看法，认为需要把握前沿AI发展的节奏。不过，并非所有美国政商人士都认可行业领袖们“急踩刹车”的呼吁。