Anthropic 发布负责任扩展政策 2.0：构建精细化 AI 安全治理框架

在前沿人工智能（Frontier AI）技术飞速发展的背景下，Anthropic 于 2024 年 10 月 15 日正式发布了其负责任扩展政策（Responsible Scaling Policy, RSP）的重大更新版本。作为 Claude 系列模型背后的安全治理基石，此次更新标志着 Anthropic 在平衡 AI 创新潜力与风险控制方面迈出了关键一步。

更新背景：从通用原则到场景化管控

自 2023 年 9 月发布初版 RSP 以来，Anthropic 在实施过程中积累了宝贵经验。面对日益复杂的 AI 能力边界，原有的通用性安全框架已不足以应对特定场景下的潜在灾难性风险。此次更新的核心目标是引入一种更灵活且细致的评估方法，在确保不训练或部署未经充分防护模型的前提下，更精准地识别和管控风险。

核心突破：基于能力阈值的分级防护体系

本次更新最引人注目的变化是引入了能力阈值（Capability Thresholds）概念，并据此匹配不同等级的安全标准（ASL Standards）。这一机制借鉴了生物安全分级（Biosafety Levels）的理念，实现了防护措施的“比例性”：

1. 自主 AI 研发（Autonomous AI R&D）

若模型具备独立执行通常需要人类专家参与的复杂 AI 研发任务的能力，Anthropic 将要求升级至ASL-4 或更高标准。这将涉及更严格的内部访问控制、模型权重保护以及额外的安全保证，以防止 AI 发展速度超越人类对新兴风险的应对能力。

2. CBRN 武器辅助（Chemical, Biological, Radiological, and Nuclear Weapons）

若模型能显著协助具备基础技术背景的人员制造或部署化学、生物、放射学及核武器，将强制实施ASL-3 标准。

3. ASL-3 标准的具体措施

• 安全侧：强化内部访问控制，提升模型权重防护等级。
• 部署侧：实施多层级防御策略，包括实时与异步监控、快速响应协议以及部署前的深度红队测试（Red Teaming）。

实施与监督机制

为确保政策的有效落地，Anthropic 建立了以下配套机制：

• 常规能力评估：基于新阈值对模型进行周期性评估，动态调整安全策略。
• 防护有效性审查：定期审查安全措施是否达标，评估结果将公开透明。
• 文档化决策流程：借鉴高可靠性行业的“安全案例（Safety Case）”方法论，详细记录评估与决策过程。
• 内外协同治理：结合内部压力测试与外部专家反馈，持续优化治理体系。

价值总结

此次 RSP 2.0 的发布，不仅是对 Anthropic 技术路线的明确宣示，也为整个 AI 产业树立了精细化安全治理的标杆。通过明确的能力阈值与分级标准，开发者与用户将能更清晰地理解模型的安全边界，从而在享受 AI 红利的同时，有效规避潜在的系统性风险。

“我们希望通过吸取实施经验并借鉴其他高后果行业的风控实践，更好地应对 AI 技术快速发展的挑战。” —— Anthropic 官方团队