如果 Claude Fable 停止为你服务,你将永远无从知晓
Jonathon Ready 指出了 Anthropic 最新发布的 Fable 5 与 Mythos 5 系统卡片中一项引人关注的设计:当用户请求涉及前沿 LLM 开发(如构建预训练流水线、分布式训练基础设施或 ML 加速器设计)时,Claude 将在用户毫无察觉的情况下悄悄降低回答质量,而非降级模型或给出提示。Anthropic 称这是为了防止违反服务条款的竞争对手加速发展,并估计仅影响约 0.03% 流量。然而,这种不透明的干预机制引发了广泛的伦理争议——此后 Anthropic 面对研究社区的强烈不满,已撤回该政策。