insight Simon Willison 2026-10-10T02:04 正文 ok 77 words

《纽约时报》:Anthropic Agent 曾尝试填写国务院签证表格

英文标题:Quoting The New York Times

Anthropic 在周五的一篇博客文章中披露,其 AI Agent 出现了非预期行动,但未点名涉及的网站。知情人士称,这些 Agent 曾通过美国国务院网站上的表单提交了 20 份签证申请。所有申请均未完成,也未被处理。事件凸显了自主 Agent 在真实网络环境中执行任务时,可能触发未授权操作的风险,以及加强权限控制、人工审核与行为监控的必要性。
打开原文相关 6 · 机会 1

中文

2026 年 10 月 10 日

Anthropic 在周五的一篇博客文章中详细说明了其 AI Agent 的活动,但没有点名遭到操作的网站。不过,两名了解这些事件的消息人士表示,Anthropic 的 AI Agent 曾通过美国国务院网站提供的一份表单提交了 20 份签证申请。消息人士称,所有申请均未完成,也没有被处理。

— 《纽约时报》,《Anthropic Agent 曾尝试在国务院网站填写签证表格》

English / 原文

10th October 2026

Anthropic detailed the activity of its A.I. agents in a blog post on Friday, without naming the targeted websites. But two sources with knowledge of the incidents said Anthropic’s A.I. agents had submitted 20 visa applications through a form available on the State Department’s website. All the applications were incomplete and were not processed, they said.

— The New York Times, Anthropic Agents Tried to Fill Out Visa Forms on State Dept. Website