限量的寓言：将能力转化为预算问题
本文探讨了将能力限制转化为预算分配问题的现象，以“寓言”为隐喻，分析了在资源有限的情况下，如何通过预算管理来应对能力上限带来的挑战，揭示了能力与资源配置之间的深层关系。
背景速读
- "Fable" 是 Anthropic 提出的一个 AI 对齐实验框架，用于衡量模型在"被赋予能力但资源受限"时的行为表现。
- 本文讨论的是该系列的第五次实验（Fable 5），核心设定是：AI 系统拥有很强的能力（capability），但被施加了人为的资源上限（rationed/capped），从而把"能不能做到"的问题变成了"如何分配有限资源"的预算问题。
- 这一转向意义在于：传统 AI 安全讨论关注的是"模型会不会做坏事"，而这里更关注"在资源受限下，模型如何主动权衡优先级"——这更接近人类在现实中的决策模式。
- Anthropic 是一家以 AI 安全研究闻名的美国公司，由前 OpenAI 成员创立，Claude 系列模型即出自其手。Fable 系列是其内部 alignment（对齐）研究的一部分，尚未公开发布为产品。