Google DeepMind 联合多家机构发起千万美元多智能体安全研究资助计划
核心事件： 2026年6月11日，Google DeepMind 联合 Schmidt Sciences、Cooperative AI Foundation、ARIA 及 Google.org，宣布启动一项总额高达 1000 万美元的技术研究资助计划，旨在全球范围内招募研究人员，共同解决多智能体（Multi-Agent）AI 生态系统中的安全问题。申请截止日期为 2026年8月8日。
从"单体智能"到"群体智能"：安全范式的转移
在过去十年中，AI 行业的关注点主要集中在提升单个模型的能力、有用性和安全性上。然而，随着技术规模的扩大，我们正进入一个全新的时代：数百万个由不同组织构建的 AI 智能体将在数字环境中相互交互、沟通、谈判并交易。
正如 Google DeepMind 在公告中所指出的，当这些系统相互交互时，必须确保其安全性和可预测性。这种转变带来了强化整个 AI 生态系统安全性的关键机会。此次资助计划的核心目标，正是研究大规模多智能体 AI 系统的群体行为，并提供框架来理解和缓解由此产生的潜在风险。
为什么多智能体安全迫在眉睫？
当前，大多数安全评估仍孤立地分析单个模型。但研究表明，自主智能体的相互作用会产生复杂的、难以预料的"涌现"行为（Emergent Behaviors）。
- 集体行为的不可预测性： 大型智能体群体突然涌现出新的集体行为和能力的风险真实存在。目前，我们缺乏有效预测、衡量和监控这些转变的工具。
- 潜在的系统性风险： 这些转变可能导致不可预测的经济活动激增，或引发新的安全挑战。
- 现有模型的滞后： 尽管存在基础框架，但多智能体交互的复杂性正在超越现有的安全模型。Google DeepMind 的 2025年研究 已建立了理解这些交互的框架，而其关于 AI Agent Traps 的最新工作则探讨了智能体在对抗环境中的脆弱性。
因此，加速多智能体安全研究不再是"锦上添花"，而是构建安全未来的基石。
四大优先研究领域
Google DeepMind 及其合作伙伴邀请学术和独立研究人员提交提案，重点支持以下四个领域：
1. 沙盒与测试床 (Sandboxes and testbeds)
构建逼真、可复现的环境，以评估、比较和加速多智能体安全领域的进展。这包括虚拟市场、模拟生态系统以及多组织工作流的建立。
2. 智能体网络科学 (The science of agent networks)
深入研究交互智能体群体的安全相关属性。重点包括：
* 集体能力如何涌现和扩展；
* 网络何时失效或变得不稳定；
* 如何检测危险的非预期群体级属性。
3. 强化智能体基础设施 (Strengthening agent infrastructure)
对身份、声誉和承诺的协议进行压力测试，以确保跨平台智能体交互的安全性。
4. 监督与控制 (Oversight and control)
开发方法来监控部署的智能体群体，并在大规模下减轻集体危害。
行业影响与从业者建议
此次资助计划不仅是一个资金机会，更是一个明确的行业信号：多智能体交互的安全标准制定已进入关键窗口期。
对于 AI 从业者和开发者而言：
* 关注跨系统交互协议： 随着智能体间交易和沟通的增加，身份验证、信誉系统和承诺机制将成为基础设施的核心。
* 重视涌现风险建模： 单一模型的安全不代表系统的安全。研究者需关注群体层面的动态变化。
* 积极参与标准制定： 此次合作强调"透明且稳健的安全标准"，独立研究人员和学术机构的参与至关重要。
如何参与
感兴趣的研究人员可访问 Schmidt Sciences 的申请门户 查看技术要求和申请流程。
- 申请截止： 2026年8月8日
- 获奖公布： 预计于 2026年秋季
这一举措标志着 AI 安全研究从"单体防御"向"生态共治"的重要演进。