Google起诉中国AI诈骗团伙“Outsider Enterprise”，指控其发送250万欺诈短信

事件概述

Google在6月12日的官方声明中透露，已对一家涉嫌使用人工智能生成诈骗内容的中国黑产组织——Outsider Enterprise提起诉讼。该组织在短短两周内向Android用户发送了约250万条欺诈短信，冒充Google、Apple等品牌诱导受害者泄露账户密码和信用卡信息。Google估计受害者数量达数十万，经济损失以百万美元计。

诈骗手法与AI角色

• AI生成文本：Outsider Enterprise使用大规模语言模型自动化生成钓鱼短信，能够快速变换措辞规避过滤规则。
• 伪造品牌：短信中常出现“Google安全团队”“Apple账户异常”等官方口吻，提升可信度。
• 庞大基础设施：据Google称，犯罪团伙部署了约9,000个假网站、1百万个欺诈域名，形成完整的诈骗链路。
• 高频发送：两周内平均每分钟产生两条以上的垃圾短信，短时间内压垮用户的防护机制。

Google的应对与法律行动

1. AI驱动检测：Google利用自研的AI安全工具实时监测并拦截疑似诈骗短信，已成功阻止超过100亿条可疑信息。
2. 运营商合作：与AT&T、T‑Mobile、Verizon三大美国运营商共享拦截名单，联合封堵恶意短信渠道。
3. 执法协同：Google向美国联邦调查局（FBI）提供了技术线索，FBI正展开跨国调查并将采取进一步执法行动。
4. 诉讼目标：通过法律手段要求法院下令关闭Outsider Enterprise的服务器、域名以及相关的AI模型托管服务，以根除其技术链路。

行业影响与后续展望

• AI滥用风险上升：本案凸显了生成式AI在网络诈骗中的新用途，提醒业界在推动技术创新的同时必须同步强化安全治理。
• 监管呼声加强：美国国会和多州立法机构已开始讨论针对AI生成内容的监管框架，预计将在未来一年内提出更严格的披露和审计要求。
• 企业防护升级：除Google外，其他科技巨头如Microsoft、Meta亦在加速部署AI防护系统，以应对日益智能化的网络攻击。
• 用户教育重要性：即便技术手段日趋成熟，提升用户对钓鱼短信的辨识能力仍是降低损失的关键环节。

“AI技术本身是中性的，关键在于谁在使用以及如何使用。” — Google安全团队负责人

随着AI模型的算力和可获取性提升，类似的AI驱动诈骗可能会呈指数级增长。行业需要在技术、法规和用户教育三方面形成合力，才能在源头上遏制此类恶意行为的蔓延。