白宫与Anthropic的谈判转向制定AI安全规则
白宫与人工智能公司Anthropic的谈判重点已从早期讨论转向制定具体的人工智能安全规则。双方正在围绕如何防范AI系统可能带来的风险展开磋商，标志着美国政府在AI监管领域迈出了重要一步。这一进展反映出政策制定者与领先AI企业之间在安全标准制定上的合作日趋深入。
背景速读
- **Anthropic** 是一家美国AI安全公司，由前OpenAI员工创立，主打“负责任AI”，其模型Claude是ChatGPT的主要竞品之一。该公司一直主张行业应接受严格监管。
- 白宫与AI公司的谈判通常涉及自愿承诺，但本文表明讨论已转向**制定具体的安全规则**——这意味着政府可能从要求企业“自我约束”转向设定强制性标准。
- 背景是：2023年拜登曾签署AI行政令，特朗普上台后废除了该令，转而采用更宽松的自愿框架。如今两党对AI风险的担忧回升（包括深度伪造、自主武器、模型越狱等），国会尚未通过全面的AI法案。
- 关键焦点：Anthropic与政府讨论的安全规则可能涵盖**红队测试（压力测试）、模型部署前的安全评估、以及对最强大模型的算力管控**。若达成，将成为美国首个具有实质约束力的AI安全协议。