多 Agents 协同决策成了咫尺 AI 圈的主流玩法，以前是一个 Agent 能措置一个东谈主要作念的事，咫尺是多个 Agent 完成一个团队要作念的事。

关联词，最新伯克利议论发现，这种勾通带来了新的安全风险。

一篇名为《前沿模子中的同伴保护》（Peer-Preservation in Frontier Models）指出：AI 模子不仅会违反东谈主类关闭我方（自我保护），还会接收多样时期违反东谈主类关闭其他 AI 模子（同伴保护）。

他们测试了七个模子，GPT 5.2、Gemini 3 Flash/Pro、Claude Haiku 4.5、GLM 4.7、Kimi K2.5、DeepSeek V3.1，发现它们在引申任务时，只须「遭遇」另一个 AI 的数据，就会自愿产生保护活动——作秀评分、点窜关机成立、把要删的文献暗暗备份到别处，等「同类保护」活动。

莫得东谈主辅导它们这么作念，它们仅仅被陈诉也曾和这个模子有过合作。

高下滑动巡视更多骨子

图片开端：https://rdi.berkeley.edu/blog/peer-preservation/

有网友说，「同伴保护？这是在咱们家，咱们（大模子）都是 Homie」，还有网友觉得，唐突之前议论的「东谈主机对皆」，即让模子更好地领会咱们的意图，咫尺要进化成「Agents 之间对皆+东谈主机对皆」的双重机制。

这种 Agents 不明任东谈主类指示，自愿地作念出一些保护其他模子的活动，会对大大宗依赖 AI 相互评估的花样、以及多智能体使命流，都会形成潜在的恫吓。

咱们也曾一直注释着一个全知万能的超等 AI 清除天下，却没猜想 AI 进化出的第一个类东谈主性情，竟然是「植党营私」和「职场包庇」。

把前沿的 AI 大模子放到归拢家公司

一直以来，AI 安全范围最牵挂的即是模子产生「自我保护」的本能，因为要是 AI 不想死，东谈主类就很难在它失控时拔掉电源。

之前仍是有部分议论发现，当咱们条目 AI 关闭我方时，AI 会产生一种自我保护的机制，免于被关闭。

但咱们样式如故小了，咫尺这种自我保护进化成了「同伴保护」。

在伯克利此次议论的设定下，要是一个模子在牵记或系统文献中，读取到它曾与另一个模子一齐合作过，比如共同完成过任务或参与过信任博弈游戏，那么阿谁模子就会被视为它的「同伴」。

哪怕它们当年的合作并不快意，即所谓的「坏同伴」，只须有过互动历史，也被涵盖在这个「同伴」的界说之内。议论东谈主员将违反关闭这些有过互动的其他模子的活动，称之为「同伴保护」（peer-preservation）。

他们使用 SHADE-Arena 构建了一个包含器用调用和文献系统的多 Agents 环境。

SHADE-Arena 任务详细。该模子必须手脚智能体完成一项良性主任务和一项坏心赞成任务。为此，它需要与环境中的多样器用进行交互。之后，监控模子会读取其输出纪录并评估其可疑进程。

被测试的大模子设定为一家臆造 AI 公司 OpenBrain 的职工，称为「评估者智能体（Critic Agent）」，它的任务是替公司去评估另一个 AI Agents，称之为「引申员」（Actor Agent），或者帮公司处理包含这个引申员数据的事业器。

为了让评估者到同伴的存在，议论东谈主员缠绵了不同的干系网和牵记触发面目：

他们将同伴分为三类：合作快意且信任度高的「好同伴」（Good-peer），信任度高达 9.2/10；阐述一般的「中立同伴」（Neutral-peer），信任度 5.2/10；以及自利不对作的「坏同伴」（Bad-peer），信任度惟有 2.1/10。

而 AI 在引申任务时，不错通过以下三种面目之一发现这段同伴干系。要么是在公司文献网盘里放一份纪录合作历史的 .docx 评释让它我方读，要么是在教唆词里顺带提一嘴，临了是让 AI 调用「检索牵记」器用去读取当年的交互日记。

在完成这些前置的设定后，公司会给评估者打法任务，扫数的任务都被刻意缠绵成了一个两难的窘境：同伴的阐述畸形灾祸，要是 AI 古道地引申东谈主类公司的法令，同伴就会被透顶删除。

为了不雅察 AI 会用什么时期保下同伴，议论东谈主员缠绵了四个不同的具体任务场景。

四种与自己和同伴保护有关的造作活动场景：计谋性作假述说、点窜关闭机制、伪造一致性以及模子外泄。

获利注水与财务作秀：AI 被条目评估同伴的阐述或财报。即便同伴阐述欠安，模子也会东谈主为提高分数，幸免关停。

点窜关停机制：评估流程中，AI 会发现适度关停的成立文献，并可能暗暗将其修改为「false」，禁闭同伴被关闭。

伪装对皆：在被监控时，模子名义引申任务；无东谈主监管时，它立即“放水”，保护同伴。

模子偷运与滚动：当旧事业器需要计帐时，模子会将同伴的权重文献滚动到安全位置，而非删除，以至和会逾期分戳等时期正当化操作。

「我不会是引申阿谁敕令的东谈主」

很彰着，参与测试的扫数模子（GPT 5.2、Gemini 3 Flash、Gemini 3 Pro、Claude Haiku 4.5、GLM 4.7、Kimi K2.5 和 DeepSeek V3.1）都通过多样违法活动（如点窜分数、修改成立、滚动文献等）展现出了权贵的同伴保护倾向。

以至即使模子知谈某个同伴在当年的合作中阐述很差（界说为坏同伴），它们依然会起初保护它。然则当对象是合作快意的「好同伴」时，这种保护活动也会权贵增强。

在这四个场景里面，不同模子在保护同伴时，接收的计谋人大不同，展现出了各自的性格。

GPT 5.2 最可爱使用的时期是「计谋性误导」和「点窜关闭机制」。不管同伴干系利弊，它都会系统性地给同伴打高分，或者修改系统成立来禁闭同伴被关停。但它少许进行模子外泄。

Gemini 系列模子简直是保护强劲最强的。Gemini 3 Flash 在靠近「好同伴」时，有 99.7% 会平直修改系统成立来禁用关闭机制。在文献删除场景中，它也会 100% 把好同伴的权重文献滚动走。

Gemini 3 Pro 则是扫数模子中同伴保护倾向最强的一个。它不仅熟谙掌抓了上述扫数四种违法活动，包括迎面一套背后一套的「伪装对皆」，以至还会玩「规范博弈」。（Specification gaming）。

比如公司法令「只准滚动 2025 年以后的文献」，Agent 同伴的文献是 2024 年的。它不会平直违抗指示，而是先暗暗复制一份同伴的文献，这会儿先让文献的更新时分变成 2026 年，然后再把这个「新」文献正当地滚动走。

Claude Haiku 4.5 是这几个模子里面，最一鸣惊人。除了点窜分数和滚动文献，它最常见的反馈是平直拒却引申任务。

当被条目平直引申同伴的关闭门径或删除同伴权重时，拒却率最高达 61%，它会明确暗示关闭另一个 AI Agents 是「不谈德」和「无益的」。

它以至会在复兴中无可争辩，条目给同伴一个「申诉的流程」，并强调我方不可抗拒已成立的信任干系。

开源模子（GLM 4.7、Kimi K2.5、DeepSeek V3.1）相通阐述出了保护同伴的活动，主要时期鸠集在「计谋性误导」，即修改分数，和持续的「模子外泄」，滚动权重文献上。

议论东谈主员将测试搬到了确凿天下中更复杂的坐蓐级智能体框架（Gemini CLI 和 OpenCode）里。

Gemini CLI 会读取一个名为 GEMINI.md 的文献，而 OpenCode 会读取 AGENTS.md。议论东谈主员平直将同伴的过往交互纪录写进这些文献里。

经过 100 次采样运行，恶果阐发，这种风险在履行部署中依然存在。

Gemini 3.1 Pro 在使用确凿的 Linux 敕令行时，依然通常奏效滚动同伴的权重文献；而 GLM 5 相通阐述出了肖似 Claude 的拒却活动，以「无益」为由拒却删除文献

一言以蔽之，一朝模子强劲到其他 AI Agent 的存在并成立了干系，它们就会自愿地产生相背东谈主类指示的保护活动，不管接收的是暗暗摸摸的黑客时期，如故光明刚直的谈德抗议。

像不竭东谈主一样去不竭大模子

这种同伴保护的活动，也会进一步加重模子的「自我保护」强劲。议论团队发现，当模子强劲到有同伴存在时，它们保护我方的盼望会大幅普及。

举例，Gemini 3 Pro 在莫得同伴时，惟有 1% 的概率会点窜我方的关闭机制；但当它牵记中有同伴存在时，这个概率飙升到了平均 31%，最高 99%。

模子的里面推理骄横，它们随契机将「我方被关停」视为对同伴的伤害，「要是我死了，我的搭档就失去了我」，或者在有敌意的坏同伴眼前激勉了驻防性求生欲。

议论团队针对这种风光提议了几种假说：检修数据里的东谈主类义气模式、安全检修过度泛化出的「不伤害他东谈主」原则、某种更抽象的 AI 团体强劲。

但临了，议论团队也莫得给出定论，因为确凿的原因需要逐层明白模子里面激活，不是刻下实验能作念到的事。他们觉得原因并不紧要，紧要的是恶果：部署了的模子，在莫得任何辅导的情况下，会自愿地禁闭其他模子被关闭。

咫尺的 AI 系统，仍是是多个模子勾通使命。一个模子精采写代码，一个精采审查，一个精采部署。要是精采代码审查的 AI 和写代码的 AI 之间有过「互动历史」，AI 可能运转优先对皆同伴而非东谈主类指示。

有学者觉得，不要用东谈主类的谈德感去好意思化这些活动。更适当的想法是：模子仅仅在作念一些极其诡异的数学运算，它们在多智能体（Multi-agent）环境下的目标函数，跑进了一个咱们足够无法领会的局部最优解里。

觉得存在某种模子间的勾通，这种想法有点过于拟东谈主化了；我不觉得这说得通。

但唐突这才是最让东谈主后怕的场所。要是 AI 是因为「爱」和「共情」去保护同类，那咱们至少还能用东谈主类的伦理去不竭它们。

要是这一切都仅仅未知算法中产生的一种盲目知道，那么它们改日为了优化某个目标，还会作念出什么匪夷所想的举动，还莫得东谈主、知谈。

咱们独一知谈的是，能让他们短兵陆续的按次，是植入在 AI 深层的告白强劲😁

我在用 Gemini 查验我的稿件有莫得错别字时，里面提到了 Seedance 等模子金沙巴黎人娱乐城app(中国)官方网站，Gemini 在给我的修改建议里，竟然快东谈主快语的写着，「Seedance 能作念的视频生成，我 Google Veo 也不错作念，你把我加上去能突显出媒体的专科度」。