insight Simon Willison 2026-07-25T00:42 正文 ok 65 words

Boris Cherny:Claude Opus 5 是迄今最难被提示注入的模型

英文标题:Quoting Boris Cherny

Anthropic 员工 Boris Cherny 表示,相比各项评测分数,Claude Opus 5 在提示注入防护方面的表现更令他关注。根据系统卡披露的提示注入(PI)评测和红队测试结果,Opus 5 是 Anthropic 目前最难通过提示注入成功攻击的模型。这一进展意味着,开发者在构建使用外部内容、工具调用和 Agent 工作流的应用时,可能获得更强的安全基础。相关细节位于 Claude Opus 5 System Card 第 73 页。
打开原文相关 3.6 · 机会 0

中文

2026 年 7 月 25 日

比起这些评测分数中的任何一项,更令我兴奋的是另一件事:Opus 5 是我们迄今最不容易遭受提示注入的模型。这一点在系统卡中埋得有些深,但综合提示注入(PI)评测和红队测试来看,要成功对 Opus 5 实施提示注入非常困难。

— Boris Cherny,以下是相关的系统卡章节,第 73 页

English / 原文

25th July 2026

More than any of these eval scores, what is most exciting to me is something else: Opus 5 is our least prompt injectable model yet. It is a bit buried in the system card, but across PI evals and red teaming, Opus 5 is very hard to prompt inject successfully.

— Boris Cherny, here's that System Card section, page 73