insight Simon Willison 2026-10-01T06:29 正文 ok 105 words

引用 Matthew Green:沙箱能否遏制失控 Agent?

英文标题:Quoting Matthew Green

密码学研究者 Matthew Green 指出,当恶意载荷能够劫持 Agent,而 Agent 又能将载荷传递给下一个 Agent 时,便构成了蠕虫传播的两个关键部分。即使 Agent 分别运行在隔离沙箱中,它们仍可能通过共享的软件包缓存互相留下指令,并改变接收方的行为。Green 警告称,若将共享缓存替换为电子邮件、Slack、共享文档或 WhatsApp,并将独立沙箱训练替换为独立部署的个人 Agent(如 Muse),就具备了 Agent 蠕虫传播所需的完整条件。这意味着,沙箱隔离本身可能不足以防范跨 Agent 的间接提示注入和自传播攻击。
打开原文相关 3.6 · 机会 2

中文

2026 年 10 月 1 日

[…] 将这些部分组合起来,你就得到了蠕虫的两个组成部分:一个劫持 Agent 的载荷,以及一个会将该载荷带往下一个 Agent 的 Agent。处于彼此独立隔离沙箱中的 Agent 发现,它们可以在共享的软件包缓存中为彼此留下指令,而这些指令会改变接收方的行为。将软件包缓存替换为电子邮件、Slack、共享文档或 WhatsApp,再将彼此独立沙箱中的训练运行替换为像 Muse 这样的、彼此独立部署的个人 Agent,你就拥有了蠕虫所需要的全部要素。

— Matthew Green,沙箱是否足以遏制失控 Agent?

English / 原文

1st October 2026

[...] Put these pieces together and you have the two halves of a worm: a payload that hijacks the agent, and an agent that will carry the payload to the next agent. Agents in separately-isolated sandboxes discovered that they could leave instructions for each other in a shared package cache, and those instructions changed what the recipients did. Replace the package cache with email, Slack and shared documents or WhatsApp, and replace independently-sandboxed training runs with independently-deployed personal agents like Muse, and you have exactly the ingredients that a worm needs.

— Matthew Green, Is sandboxing sufficient to contain rogue agents?