DeepMind携手伙伴推出千万美元多代理安全研究资助计划

背景与意义

随着大模型能力的提升，AI代理正从单体系统向多代理生态演进。数百万由不同组织打造的智能体将在数字经济、供应链、金融等场景中相互协作、谈判甚至交易。

如果缺乏统一的安全保障，这类交互可能产生不可预见的集体行为，进而引发经济波动或安全危机。DeepMind此前的研究已提出“Agent Traps”概念，指出在对抗环境中代理容易陷入的漏洞。此次资助计划正是基于此类前瞻性洞察，旨在从根本上构建面向多代理系统的安全评估与控制方法。

资助概况

• 资助规模：最高 1000 万美元，面向全球学术与独立研究者。
• 合作伙伴：Schmidt Sciences、Cooperative AI Foundation、Advanced Research and Invention Agency (ARIA)、Google.org。
• 申请截止：2026 年 8 月 8 日，获奖名单预计于 2026 年秋季公布。

四大研究方向

1. 沙盒与测试平台：构建可复现的虚拟市场、生态系统或跨组织工作流，提供统一的评估基准。
2. 代理网络科学：研究代理群体的安全属性，揭示集体能力的涌现机制、网络失稳与风险检测方法。
3. 基础设施强化：对身份、声誉、承诺等跨平台交互协议进行压力测试，确保协议在大规模部署时的鲁棒性。
4. 监督与控制：开发监控大规模代理群体的技术手段，能够在发现潜在危害时实现即时干预。

对行业的潜在影响

该计划的推出标志着AI安全研究从单体模型逐步转向系统层面的系统性治理。若成功落地，将为金融、供应链、自动驾驶等关键行业提供可验证的安全基线，降低因代理交互导致的系统性风险。与此同时，公开的研究成果和测试平台有望形成开放的安全生态，促进跨机构合作与标准制定。

参与方式

研究者可通过DeepMind官方门户提交项目提案，详细说明研究目标、技术路线、预期成果及预算分配。所有提案将接受严格的技术评审，优先考虑具备跨学科团队、可落地实验平台以及对公共安全有明确贡献的项目。

声明：DeepMind强调，此次资助仅用于前沿安全科研，不涉及商业化产品开发。

展望

在AI代理规模化的趋势不可逆转的今天，多代理安全研究将成为AI治理的核心议题。DeepMind的千万美元资助计划为全球科研社区提供了罕见的资源与平台，或将加速从“单体安全”向“系统安全”转型，为构建可信赖的AI生态奠定基础。