突发：特朗普要求Anthropic完成不可能的任务
本文探讨了特朗普政府向人工智能公司Anthropic提出的一项被认为几乎不可能实现的要求，分析了这一事件对AI行业、监管政策以及未来技术发展方向可能产生的深远影响。作者加里·马库斯（Gary Marcus）对此表示担忧，并提出了对后续发展的思考。
背景速读
- 作者 Gary Marcus 是纽约大学心理学与神经科学荣休教授，长期批评大型语言模型（LLM）的可靠性，主张 AI 需要融合符号推理与神经网络。
- Anthropic 是 OpenAI 创始人出走创立的 AI 安全公司，主打"合宪 AI"（Constitutional AI），旗舰模型为 Claude。
- 特朗普在社交媒体上要求 Anthropic 解密其 AI 系统，理由是"国家安全"和"对抗中国竞争"，Anthropic 回应称其安全机制一旦公开即会失效（类似加密系统的密钥）。
- 争议核心：联邦政府能否强制私营 AI 公司交出核心技术细节？学界与产业界长期争论"可解释 AI"（XAI）——要求深度神经网络像传统软件那样可审计，但当前主流 LLM 本质上是统计黑箱，无法简单"公开源代码"来满足安全性审查。