原标题:《Anthropic's proposed AI safety bill only kicks in if 50 deaths or $1B in damages》 评分: 136 | 作者: f-serif 💭 49 条命和 9.99 亿美元,就算安全创新吗? 🎯 讨论背景 Anthropic(一家开发 Claude 大语言模型的美国 AI 公司)提出的 AI 安全立法思路,讨论焦点是当高能力模型的预测性风险可造成 50 人死亡或 10 亿美元损失时,是否应触发更严格的政府审查与可能的发布禁令。提案设想由独立的私营审查方定期评估 frontier labs(训练最强、算力投入最高模型的实验室),类似金融审计;批评者则担心审计、保险和合规会成为闭源巨头的市场壁垒。争论同时关联 AI agent(可自主调用工具执行多步骤任务)的网络攻击风险、军事目标选择,以及 open-weight models(开放权重模型)可被复制、微调和跨国部署所带来的执法困难。评论中还援引自动驾驶、汽车产品缺陷、医疗标准和加密技术出口管制,争论责任究竟应落在开发商、部署者、用户,还是模型能力本身。