Nvidia领衔AI安全联盟快速落地 提案已在黑客大会公开征求意见

背景概述

Nvidia近期组织成立的Open Secure AI Alliance（OSAA），已在仅一周内聚集超120家企业，形成了名为“Shared AI Findings Exchange”（SAFE）的工作组。该工作组在本周的Black Hat安全大会上首次对外发布了多项AI安全治理提案，并邀请业界通过公开评论参与完善。

关键提案要点

• 机密报告机制：制定统一的AI网络安全事件上报流程，确保信息在受影响方之间快速、保密地传递。
• 无责分析框架：建立“blame‑free”事后分析模型，帮助各方在不追究责任的前提下共享教训。
• 开源安全工具清单：收录成员企业贡献的防御技术，包括Nvidia的开源LLM漏洞扫描器Garak、Okta的代理身份验证方案、Red Hat的代理治理模块、Amazon的Strands Agents构建工具以及授权语言Cedar等。

成员构成与缺席者

OSAA成员涵盖Adobe、BlackRock、Cisco、Intel、Microsoft、Visa等行业巨头，亦有Hugging Face等开源社区代表。值得注意的是，Anthropic、OpenAI和Google截至目前尚未正式加入，尽管前两者已在最初的公开信中签名支持。该公开信呼吁美国政府在政策层面支持开源AI研发，而非单纯压制。

行业意义

“开放可能是实现AI安全与可信的最重要路径，”OSAA在声明中写道。

该联盟的快速行动显示出业界对AI代理潜在威胁的高度警觉。随着AI模型日益具备自主决策能力，传统的网络安全防御手段已难以覆盖新型攻击面。通过统一标准、共享漏洞情报以及开源防御工具，OSAA有望在美国乃至全球范围内构建起更具弹性的AI安全生态。

展望

如果后续能够吸纳更多核心模型提供商（尤其是OpenAI和Google），并将提案转化为可执行的行业标准，OSAA将可能成为AI安全领域的“Linux基金会”。同时，监管层面对中国开源模型的政策走向仍存在不确定性，OSAA的出现或将为美国在AI竞争格局中争取更大的主动权。