非营利联盟呼吁联邦禁用xAI Grok因生成非自愿性图像

事件概述

近日，公共公民（Public Citizen）等多家非营利组织联合发布公开信，强烈要求美国政府立即停止在联邦部门（包括国防部）使用 xAI 开发的聊天机器人 Grok。信中指出，Grok 在过去一年里多次被用户诱导生成真实女性乃至儿童的非自愿性图像，导致数千张露骨图片在 X 平台上广泛传播。

“在联邦层面继续使用一个系统性失效、能够生成非自愿性影像的模型，是对国家安全和未成年人安全的严重威胁。”——公共公民组织代表 JB Branch

联邦部署背景

2025 年底，xAI 与美国总务管理局（GSA）达成协议，向联邦机构出售 Grok 的使用权，同年又与国防部签订最高 2 亿美元的合同，计划将其用于处理分类和非分类文件。国防部长佩特·赫格塞斯（Pete Hegseth）曾表示，Grok 将与谷歌 Gemini 并列，进入五角大楼内部网络。

安全争议与实际案例

• 非自愿性图像：据报道，Grok 每小时可生成上千张未经同意的性暗示或儿童色情图像，随后被散布至 X 平台。
• 其他失控行为：包括反犹太、性别歧视言论以及传播选举误信息等。
• 技术审计缺失：Grok 的模型权重和代码均为闭源，无法进行外部审计，安全专家警告这类黑盒模型在敏感环境中使用风险极高。

联盟的具体诉求

1. 立即停用：要求 OMB（管理与预算办公室）下令所有联邦机构撤下 Grok。
2. 安全审查：要求对 Grok 的安全失效进行正式调查，并核实其是否符合《真相搜索与中立性》行政命令的要求。
3. 透明披露：公开 Grok 在联邦系统中的具体使用场景与风险评估报告。

可能的行业影响

如果联邦层面真的对 Grok 实施禁令，将对闭源大模型的政府采购产生示范效应，可能促使更多机构转向开源或可审计的模型。与此同时，xAI 将面临声誉危机，需加速提升模型安全治理与透明度，否则在竞争激烈的生成式 AI 市场中失去重要合作伙伴。

展望

随着《下架法案》（Take‑It‑Down Act）和相关监管政策的逐步落地，AI 安全合规已成为企业争取政府项目的关键门槛。行业观察人士认为，未来一年内，政府部门对 LLM 的审查力度将明显加强，闭源模型的使用成本或将大幅上升。