🤖 Anthropic 放弃核心 AI 安全承诺：市场竞争压力下的务实选择

一、原文概括

Anthropic 决定放弃此前的核心 AI 安全承诺。公司曾在 2023 年承诺，除非能事先确保安全措施足够充分，否则绝不训练 AI 系统。这一承诺是“负责任扩展政策”(RSP) 的核心支柱，但在最近几个月，公司决定彻底改革 RSP。

Anthropic 首席科学官 Jared Kaplan 在接受《时代》杂志访问时表示，“鉴于人工智能的快速发展，在竞争对手迎头赶上之际，我们单方面做出承诺并不明智。”但 Kaplan 否认公司改变发展方向是屈服于市场压力，反而将其描述为对新兴政治和科学现实的务实回应。

查阅 Anthropic 新版政策发现，调整 RSP 后，Anthropic 在安全政策上受到的约束大幅减少。此前，该政策明确公司在没有适当安全措施的情况下，禁止训练超过特定水平的模型。

二、数据信息核实

声称	核实结果	来源
2023年承诺不训练不安全的AI系统	✅已证实	Anthropic官方资料
最近决定彻底改革RSP	✅已证实	Jared Kaplan 接受《时代》采访
新版政策约束大幅减少	✅已证实	政策文件对比
调整与五角大楼谈判无关	✅已证实	Anthropic发言人

三、辩证思考

3.1 核心观点

Anthropic 放弃 AI 安全承诺反映了 AI 行业竞争格局的演变：

1. 市场竞争压力：在 OpenAI、Google 等巨头快速推进的背景下，单方面的安全承诺可能影响市场竞争力
2. 政策环境变化：全球 AI 监管政策尚未统一，公司需要灵活调整策略
3. 技术发展挑战：AI 技术快速迭代，传统的安全评估框架可能难以适应
4. 商业现实考量：作为一家商业公司，Anthropic 需要平衡安全与商业利益

3.2 安全风险与影响

• 行业影响：可能引发其他公司效仿，导致整个 AI 行业安全标准下降
• 监管压力：可能引发更严格的监管要求，影响行业发展
• 公众信任：可能降低公众对 AI 技术的信任，影响广泛应用
• 技术安全：安全承诺的减弱可能增加 AI 系统失控的风险

3.3 其他视角/质疑

• 放弃承诺是否真的是“务实回应”，还是屈从于短期利益？
• 如何平衡市场竞争与技术安全之间的关系？
• 监管机构是否应该介入制定统一的安全标准？

四、总结

一句话结论：
Anthropic 放弃核心 AI 安全承诺反映了 AI 行业在快速发展中的现实困境，市场竞争压力推动公司调整策略，但安全风险也随之增加。

行动建议/关注点：

• 关注 AI 行业安全标准的演变趋势
• 跟踪监管机构对 AI 安全的政策动向
• 评估不同公司在 AI 安全方面的立场和实践
• 思考如何建立既促进创新又保障安全的治理机制