旧金山起诉苹果谷歌 严令下架“nudify”深度换脸应用

背景

加州《非同意深度伪造图像法》明确规定，任何“明知帮助”或“鲁莽助长”非同意深度换脸色情内容的行为均属犯罪。2025 年该州又通过民事诉讼条款，赋予受害者针对第三方平台的追索权。旧金山城市检察官大卫·邱（David Chiu）以此为依据，向苹果（Apple）和谷歌（Google）发出警告信，要求两家公司立即清除其应用商店内的数十款“nudify”类深度换脸工具。

关键指控

• 违法事实：信中指出，这些应用通过付费模型向用户提供“一键脱衣”功能，直接违背加州法律。
• 经济利益：检察官称，两家公司在过去一年内因这些违规应用收取的手续费可能高达数百万美元。
• 监管失职：信件强调，苹果和谷歌早在去年即被Tech Transparency Project（TTP）报告指出违规，仍未采取有效措施，属于“被通报已久却继续容忍”。

两大平台的回应

• 苹果：官方声明称已下架三款违规应用，并正对另外四款进行开发者账户审查，若确认违规将立即删除。
• 谷歌：表示已暂停信中提及的五款应用，并称已对违规关键词（如“nudify”）实施搜索限制，称“对违规行为进行快速调查并采取行动”。

法律后果与行业影响

检察官办公室警告，若平台在28天内未完成全部清除，将面临民事处罚，甚至可能被追究刑事责任。此举标志着美国地方政府首次以法律手段直接干预主流应用商店的AI内容审核，预示着未来监管力度将进一步加大。

对AI创业公司而言，合规成本将显著上升；对平台生态，意味着必须构建更细致的内容审查体系，尤其是涉及生成式深度换脸技术的应用。行业观察人士指出，此次行动或将推动更严格的AI模型使用政策出台，并促使开发者在产品设计阶段就纳入伦理风险评估。

“AI工具的滥用不应成为牟利手段，平台必须承担起审查和防护的责任。”——旧金山城市检察官大卫·邱

未来，监管机构、平台与技术研发者之间的协同治理将成为生成式AI安全治理的关键路径。