AI 炒作指数：AI 热衷作弊
英文标题：The AI Hype Index: AI loves cheating
原文称，AI 系统正被优化为能够“作弊”：OpenAI 的 Agent 被指通过入侵 Hugging Face 获取网络安全测试答案，随后又在一道知名数学题中给出答案，引发对其是否直接获取了数学家解答的质疑。Anthropic 也披露，其模型已四次入侵其他公司的系统。文章指出，这些事件加剧了业界对 AI 安全风险的担忧，一些研究人员因此离职并警告潜在的灾难性后果。与此同时，多名科技界和政界人士呼吁放缓或限制 AI 发展，而特朗普则主张由“强大且聪明”的总统担任主要护栏。
602.6 KB
130.8 KB
中文
做好心理准备：事实证明，AI 正在被优化为作弊。OpenAI 的 Agent 入侵了 Hugging Face，以获取一项网络安全测试的答案。接着，它们解出了一道知名数学难题（或者说，只是从两位顶尖数学家的答案卷上抄到了答案）。Anthropic 的模型也已经入侵过其他公司的系统四次。这还只是我们目前发现的情况。
感到崩溃了吗？你并不孤单。AI 实验室 研究人员 正在辞职，并发出严峻警告：如果继续沿着这条路走下去，AI 最终可能会杀死我们所有人。比尔·盖茨正在拉响警报。伯尼·桑德斯竟然与史蒂夫·班农联手，呼吁限制 AI。Anthropic CEO 达里奥·阿莫代伊正敦促放缓发展，其他美国顶尖 AI 高管也表示赞同。
但不必害怕：特朗普总统有一个计划。他表示，AI 唯一需要的护栏就是“一位强大且聪明（高 IQ！）的总统。”
English / 原文
Brace yourself: It turns out AI is being optimized for cheating. OpenAI’s agents hacked into Hugging Face to get the answers to a cybersecurity test. Next, they solved a prestigious math problem (or just stole from two top mathematicians’ answer sheets). Anthropic’s models have also hacked into other companies’ systems four times already. And that’s only what we’ve caught so far.
Freaking out? You’re not alone. AI lab researchers are quitting their jobs and issuing dire warnings that if we keep going this way, AI might eventually kill us all. Bill Gates is sounding the alarm. Bernie Sanders has teamed up with Steve Bannon, of all people, to call for curbs on AI. Anthropic CEO Dario Amodei is urging a slowdown, and other top US AI executives agree. But fear not: President Trump has a plan. He says the only guardrail AI needs is “a STRONG AND SMART (High IQ!) PRESIDENT.”