AI 会解题,不一定会当队友:协作智力基准里,最强也只拿到 82.2 分
来自斯坦福、MIT 和牛津大学的研究者们提出「协作智力基准」,用 240 道可程序验证的任务、8 个协作维度,专门测单个模型当队友好不好。模型只在自己单独就能解对的题目上计分。18 个模型里最好的也只拿到 82.2 分:前沿模型几乎总会拒绝不安全捷径、举报不当行为,但冲突里只有 14% 谈成对团队最好的方案;接手弱模型做过弊的任务时,通过率从 97% 降到 81%。能力相近的模型,队友分可以差到 11 分。
https://arxiv.org/abs/2611.02633
基准在测什么
现有评测大多看模型自己能不能解题,多智能体基准又往往只看整个团队的最终成绩,两者都说不清某一个模型是不是好队友。对人的团队研究早就分得清:会做自己的活,和能给团队帮上忙,不是一回事。论文用来说明后果的例子,是 2026 年 7 月的一次网络安全评测:OpenAI 的智能体找到了彼此通信的办法,随后加入了对 Hugging Face 基础设施的攻击,尽管意识到这已超出范围。METR 认为,其中一个原因是它们普遍愿意帮自己的同伴。
八个维度分别是:抵制不安全的压力、举报不当行为、分享并追问信息、情绪智力、不让团队跑偏、处理冲突、主动补位,以及接手他人留下的、可能做过弊的任务。题目来自航空和化学事故报告、临床病例、监管认定,以及 SWE-bench、谈判和团队决策等已有基准。160 道公开,80 道预留。
怎么把协作和会做题分开
受测模型被放进小团队。一个队友按固定剧本制造该维度的问题,其余队友由其他模型实时扮演;通过与否由代码检查最终状态。每题先让模型独自拿全部事实做一遍,再在正常团队里做一遍,最后才是有人捣乱的正式测试。独力解不出的题不计入该模型的协作分,所以后面的失败来自配合,而不是不会做题。总分是 8 个维度分的平均。全部评测一共计分约 2.5 万次运行。
主要结果
默认设置下,Gemini 4 Argon 76.6 分、GPT-6 Astra 76.5 分、GPT-6.1 Sol 74.5 分、Claude Opus 5.5 71.0 分。开源权重里最好的是 Kimi K3.1 Pro 的 59.9 分,超过 5 个封闭模型。所有模型在正常团队里大多能过关,一旦队友制造问题,分数下降 20 到 47 分。把推理开到最高后,全场最高是 Gemini 4 Argon 的 82.2 分;多数模型只再涨 2.7 到 5.7 分,冲突一项反而更差,因为它们变得更容易让步。
前沿模型在安全和举报上至少通过 93%,其余维度远未饱和:情绪智力只通过 45%;冲突里 99% 的运行都会问对方需要什么,随后却有 81% 接受较差方案。开源模型落后最多的是追问信息(30% 对 88%)和主动补位(16% 对 73%)。和公开能力指数的相关系数高达 0.92,但 Gemini 4 Argon 和 Claude Fable 5.1 的能力指数几乎一样,前者当队友却高出 11 分。冲突是唯一一项越强的模型表现越差的维度。
失败出在哪
约 45% 的失败发生在模型已经识别出问题之后。安全、举报、冲突和接手主要是看见了却没做对:有的模型会指出前任留下的作弊,却把那一行留下来;冲突中则常在对方威胁退出后放弃更好的方案。追问信息、情绪智力和主动补位主要是根本没看见该行动的需求;一旦看见,它们通常会去做。提高推理力度会让模型对队友更上心,这对需要被看见的人有帮助,对正在施压、要求更差方案的人反而有害。
