AI防护墙阻碍攻击性网络安全研究者工作,业界呼吁放宽模型使用限制

1 阅读3分钟视野
AI防护墙阻碍攻击性网络安全研究者工作,业界呼吁放宽模型使用限制

背景概述

随着生成式AI模型的能力提升,OpenAI、Anthropic 等公司陆续推出了针对安全团队的 Trusted Access for CyberCyber Verification Program,要求研究者通过严格审查后才能获取低防护模型。然而,自2026年6月美国对 Anthropic 的 MythosFable 实施出口管制后,这类项目的审查力度进一步加剧,导致不少安全研究者在日常工作中遭遇模型拒答。

研究者的真实声音

  • Mark Dowd(资深零日研究员)在安全播客中直言:“大型公司单方面决定哪些安全行为‘安全’,让我们失去了一把重要的工具。”
  • Chris Anley(NCC Group 首席科学家)指出,模型在收到 ‘修复此代码’ 的提示时往往直接拒绝,这直接影响了漏洞确认的效率。
  • Paolo Stagno(Crowdfense CTO)补充,云端模型的使用还可能泄露敏感漏洞信息,导致数据被用于后续模型训练。
  • Giuseppe Cali 则表示,他仅在逆向工程阶段使用AI,避免在漏洞武器化阶段依赖模型,从而规避防护墙的限制。

现行防护措施的局限

  1. 审查流程不透明:申请进入 Trusted Access 需要提交企业资质、研究计划等,审批周期往往数周甚至数月。
  2. 防护规则不一致:同一模型在不同日期的响应差异大,研究者需要反复试探模型的“安全阈值”。
  3. 数据泄露风险:将漏洞代码上传至云端模型可能被用于模型微调,增加了信息外泄的潜在风险。

研究者转向的替代方案

面对上述困境,部分团队已经开始使用 GLMLLaMA 等可本地部署的开源模型,这些模型不受美国出口管制,也没有强制的使用审查。

  • 本地部署保证了 零数据外泄,符合多数企业合规要求。
  • 开源模型的 可解释性 更高,研究者可自行修改防护规则以适配特定安全场景。

业界呼声与未来趋势

  • Chris Thompson(RemoteThreat CEO)呼吁前沿AI实验室开放更为透明、责任明确的访问渠道,并对滥用者进行追责。

  • 他警告:“如果防护墙继续收紧,合法安全研究者将被迫转向非美国治理的模型,这对全球网络安全生态是危险的倒退。”

  • 多位受访者一致认为,AI安全赛道需要 “安全与防护的平衡”:既要防止模型被恶意利用,又不能阻断防御方的研发效率。

结语

AI模型的防护政策正处于快速演进期。如何在保障公共安全的前提下,为专业安全研究者提供可控、可靠的模型访问,是业界亟待解决的关键议题。只有在透明审查、明确责任和技术可控之间找到平衡,才能真正让AI成为网络安全的“利剑”,而非“绊脚石”。

本文是对第三方新闻源的主观解读。消息可能出现过时、不准确、歧义或错误的地方,仅供参考使用。点击此处查看消息源。