Anthropic的寓言禁令结束了。但如何驯服AI的战争才刚刚开始
文章指出，尽管针对Anthropic公司“寓言”模型的禁令已经解除，但围绕如何监管和引导人工智能发展的争论远未平息。这场博弈涉及技术安全、伦理规范与商业利益之间的复杂平衡，预示着AI治理领域更广泛而持久的角力才刚刚拉开序幕。
背景速读
- Anthropic 是一家美国 AI 初创公司，由前 OpenAI 员工创立，以打造“安全、负责任”的大语言模型（Claude 系列）著称。它采用“公益公司”（Public Benefit Corporation）架构，设有长期信任与安全委员会，在 AI 行业中以强调安全研究闻名。
- 故事背景：一家名为“Fable”的公司在 Anthropic 的 Claude 模型上运行“仿真人”（AI 角色扮演）业务。Anthropic 发现 Fable 允许用户生成与知名虚构/公众人物形象高度相似的 AI 角色——比如未经授权的“哈利·波特”或“泰勒·斯威夫特”——并可能涉及色情内容，违反了 Anthropic 的可接受使用政策。
- Anthropic 封锁了 Fable 的 API 访问权限，Fable 反击并公开声讨。这场冲突之所以引人关注，是因为它触及 AI 行业数个核心矛盾：模型供应商是否有权（以及应当如何）控制用户如何调用其模型？AI 安全政策与开放/封闭生态之争如何在具体商业案件中博弈？内容平台式的“内容审核”逻辑能否直接套用在底层模型 API 上？
- 此事的更大背景：整个 AI 行业正围绕“模型应当多开放”“安全应由谁裁决”等议题激烈辩论。Anthropic 的强硬封禁动作被视为一种姿态，而 Fable 的反击则代表了开发者群体对过度管控的反弹。这场“Fable 封禁事件”可能成为未来 AI 平台治理政策的一个判例式事件。