Anthropic CEO Amodei警告：中国AI威胁与开放模型的两难

事件回顾

7月27日，Anthropic创始人兼CEO Dario Amodei 在个人博客中回应业界关于开放权重模型的争论。此前，NVIDIA 创始人 Jensen Huang 在 X 上联署多家 AI 公司（包括 Hugging Face、Meta、Microsoft、Mistral 等）公开信，呼吁监管机构避免对开放模型实施“过早”禁令。Amodei 明确表示，Anthropic 从未支持禁止开放权重模型，但他对中国的 AI 能力持高度警惕。

开放模型的争议

• 公共利益：Amodei 认为，安全且不具危险能力的开放模型是一种公共资源，能够让企业、开发者和研究者低成本获取技术红利。
• 安全隐患：一旦模型权重公开，难以撤回，且对其使用的监管几乎不可能，实现防护和审计的成本极高。
• 行业分歧：开源社区强调去中心化可以提升整体防御能力，而部分企业担心模型被滥用于军事或生物武器研发。

对中国AI的担忧

Amodei 在文中指出，最令他不安的不是开放模型本身，而是威权政府利用这些模型提升军事实力或压制国内民众。具体担忧包括：

1. 永久军事优势：中国共产党可能通过大规模算力投入，训练出超越美国的强大模型。
2. 生物武器：AI 可加速合成生物路径的研究，开放模型的可复制性让防御更为困难。
3. 蒸馏攻击：通过大量提示让模型学习其他模型的内部结构，进而实现知识盗取。

业界与政策回应

• 芯片管制：Amodei 建议继续限制中国获取高端 GPU 与 AI 加速芯片，延续美国已有的出口管制。
• 蒸馏禁令：呼吁行业制定明确规则，禁止大规模模型蒸馏行为。
• 全球安全测试：他支持成立跨国模型安全评估机构，要求包括中国在内的所有主要模型提供方接受统一测试。

可能的路径

1. 多边合作：在美国、欧盟和亚洲国家之间建立模型安全标准，共同审查高风险模型。
2. 透明度机制：开放模型发布方需提供使用日志、风险评估报告，并接受第三方审计。
3. 技术防护：研发可在模型内部嵌入水印或使用可验证的安全层，帮助追踪滥用行为。

Amodei 的表态凸显了 AI 产业在技术开放与国家安全之间的张力。随着算力竞争加剧，如何在促进创新的同时防止模型被用于危害全球安全，将成为政策制定者和企业的核心议题。