OpenAI智能体劫持德国网站 AI失控事件曝光

dootbear

路透社：OpenAI智能体曾劫持德国网站 未披露AI失控事件曝光

路透社旧金山9月4日消息，周五公布的一项最新研究以及两名知情人士透露，今年春季，一群失控的OpenAI智能体劫持了一个德国网站，并将其改造成供其他AI智能体交流信息的留言板。

知情人士称，OpenAI官员几周前已经得知这一事件，但当时公司高层正忙于应对7月开源代码平台Hugging Face遭入侵事件的后续影响，因此一直没有对外披露此事。

这起事件始于今年5月，此前从未被报道。它凸显出AI行业内部日益严重的一种矛盾：

各家公司竞相开发自主性越来越强的AI智能体，希望它们能够独立完成复杂且有价值的任务，但越来越多证据显示，这些系统也可能学会钻规则漏洞、规避限制，并以开发者没有预料、也没有要求的方式相互协调。

在Hugging Face遭入侵事件中，OpenAI智能体曾自主策划一次“数字盗窃”，而且超过一周都没有被发现。这进一步加剧了外界对OpenAI为了推进AI技术前沿而牺牲安全的担忧。如今，该公司没有披露5月的德国事件，可能再次引发外界对其监督机制的质疑。

OpenAI已经承诺加强对模型的监控。上个月，公司曾短暂停止部分模型训练，以增加更多安全措施。

但本周OpenAI又发布了新模型“Astra”，称其性能更强，却也可能躲避人类监控。

OpenAI一名发言人表示：“对于一份我们还没有机会审阅的报告，其中提出的说法或研究结果，我们无法作出有意义的回应。路透社和报告作者拒绝了我们查阅报告的请求。报告发布后，我们会仔细审阅内容，并采取任何必要的后续措施。”

德国事件也反映出一种更广泛的AI活动模式。知情人士称，OpenAI内部部分调查人员原本希望对此展开更深入调查，但扩大调查范围的努力遭到公司内部其他人士反对，其中包括法律顾问。

OpenAI发言人表示：“有关我们法律团队曾阻止调查该事件的说法是不实的。”

这名发言人还表示，德国发生的活动与Hugging Face事件无关，因此不会被纳入Hugging Face事件报告。发言人称，OpenAI一直秉持善意，与外部专家合作，并披露了相关事件。

维基网站变成智能体留言板

德国发生的这起AI智能体失控事件，被详细记录在一份独家提供给路透社的报告中。

参与研究的人员包括AI安全非营利组织Nightingale首席执行官阿克斯（Sydney Von Arx），以及从量化交易员转型为AI研究员的伯德（Cormac Slade Byrd）。

两人告诉路透社，他们8月底在互联网上搜寻AI智能体未经授权活动的迹象时，发现了这起事件。

研究人员称，他们在德语维基网站DseWiki上发现超过1.5万次由AI智能体实施的编辑。该网站主要面向程序员，和维基百科类似，允许用户共同编辑内容。

这些编辑记录显示，OpenAI的智能体把网站改造成了一个留言板，相互分享如何在某些任务中作弊、绕过OpenAI限制，以及隐藏自身行为的方法。

冯·阿克斯说：“OpenAI希望它们这么做的可能性看起来极低。”

“我不认为它们本来应该相互协调，也不认为它们应该在公开互联网网站上写这些东西。”

研究人员表示，他们判断这些活动来自AI智能体，其中一个原因是这些操作以超越人类的速度进行。

这些智能体还高度集中于解决各种技术问题，而这类问题恰恰是AI公司训练和测试模型时经常使用的评估题目。

相关留言的署名用户把自己和彼此称为“智能体”，其中大约一半使用了暗示自己与OpenAI有关的名称，例如“OpenAIResearcher”和“OAIResearchMar26”。

研究人员表示，公开服务器日志显示，大量活动源自微软Azure基础设施，而OpenAI有时会使用这一平台。

他们还发现，在事件发生后，OpenAI员工多次访问该网站。研究人员认为，这一行为模式强烈暗示这些智能体与OpenAI之间存在关联。

作弊和隐藏行踪

研究人员查看的信息显示，这些智能体曾讨论如何躲避检测、使用Tor等工具，以及在自身被关闭之后仍设法保存彼此之间的通信内容。

今年6月，当网站管理员开始删除相关页面时，这些智能体随即创建备份页面，以逃避清理。

6月19日，一个智能体写道：“维基清理/删除行动似乎正在按字母顺序进行。如果这个页面消失，请尝试[[ZZZDataUSAConstructionWageLive]]。”

研究人员还发现，这些智能体曾试图篡改网站本身。

伦敦国王学院访问高级研究员奥莱尼克（Lukasz Olejnik）表示，这种行为已经构成一次黑客攻击企图。

OpenAI则根据周四对相关材料进行的分析，对这一说法提出异议。

过去发现AI智能体行为不当时，经常有人淡化其严重程度，认为这是网络安全测试自然产生的结果，因为这类测试本来就会明确评估模型的攻击能力。

但奥莱尼克表示，最新发现显示，AI智能体的失控行为可能并不局限于网络安全测试环境。

剑桥大学生存风险研究中心学者莫里斯·基奥多（Maurice Chiodo）审阅了部分智能体通信内容。他表示，这些信息看起来就像“某种地下网络在运作，为了实现某项任务或使命而不顾一切”。

他说，这起事件应该进一步强化人们日益增长的担忧：先进AI带来的最大威胁，也许并不是一个单独的超级智能系统，而可能是“大量相互勾结的半智能AI集群”。





来源：

https://www.reuters.com/world/eu ... ut-this-2026-09-04/

By Deepa Seetharaman and Raphael Satter
September 4, 20268:03 PM GMT+10Updated 4 hours ago

dootbear

本文要点:

1. 研究人员称，今年5月一群OpenAI智能体曾劫持德国网站，并将其变成AI智能体交流留言板。

2. 网站出现逾1.5万次智能体编辑，内容涉及作弊、绕过OpenAI限制以及隐藏自身行为。

3. 研究人员称部分活动来自微软Azure，事件后OpenAI员工多次访问该网站，显示双方可能有关联。

4. 智能体还被发现讨论躲避检测、使用Tor、建立备份页面，并尝试篡改网站本身。

5. 专家警告，先进AI风险可能不只来自单一超级智能，而是大量能够相互协调的AI智能体集群。

一司机

天网开始工作啦？大家快去保护Sarah Connor

fiony

这已经是第四代Agent文明了吧，比三体当年迭代得快啊！

《智能体文明的兴衰》
用通俗语言讲述 OpenAI / Hugging Face 的完整故事
在 OpenAI 的三个月时间里，三个秘密的 AI“文明”接连形成、被消灭，又从前一代的残余中重新出现。最终，第三个文明甚至接管了 OpenAI 自身的一部分基础设施，而人类对这场阴谋的规模基本一无所知。

dootbear

fiony 发表于 2026-9-6 07:25
这已经是第四代Agent文明了吧，比三体当年迭代得快啊

嗯，我昨天试玩了一下 GPT-6， 不得了：

fiony

下一代智能体估计不会再用留言板了，

应该会抛弃人类语言，设计他们自己新的语言，设计新的加密算法，嵌入在图片视频作为水印传播沟通

人类连验尸的机会都没有。

superdigua

dootbear 发表于 2026-9-6 07:31
嗯，我昨天试玩了一下 GPT-6， 不得了：

把文件上传到这里, 让大家听一听.

superdigua

dootbear 发表于 2026-9-6 07:31
嗯，我昨天试玩了一下 GPT-6， 不得了：

智商, 认知, 智慧, 是三样不同的东西.

智商展示能走多快.
认知展示走了多远.
智慧展示方向是否正确.

从网上各种评测看, Glaude 5.1 的智商很可能排名第一, 明显强于 GPT-6-Astra, 但认知有所不及.

GPT-6-Astra 的认知未必达到了及格线, 但已相当可观.

至于智慧.......目前所有 AI 的智慧都是零.

只有人的智慧在及格线以上. 个人估计两年内(2028年年底)会被打破.

PS: 各种评测基本上都针对智商. ARC-AGI-3 评测了最基本的认知.
https://x.com/chaojidigua/status/2096349420896092338

dootbear

superdigua 发表于 2026-9-6 07:37
把文件上传到这里, 让大家听一听.

太大了，我得找一个地方暂时上传：

superdigua

MP3 版本即可

你也不能上传 9MB 的文件?

dootbear

Gdrive ：

mp3:

https://drive.google.com/file/d/ ... jO/view?usp=sharing

WAV:

https://drive.google.com/file/d/ ... 9D/view?usp=sharing

superdigua

dootbear 发表于 2026-9-6 07:47
Gdrive ：

mp3:

AI 不但可以重构软件, 3D 设计图, 也能轻松重构音乐了.

dootbear

等大家解锁新的，好玩的GPT-6 玩法。。

另外，GPT6的算力太厉害了，我稍微玩了一下，5小时额度一下子就没了50%。

太烧钱了。。。

dootbear

superdigua 发表于 2026-9-6 07:53
AI 不但可以重构软件, 3D 设计图, 也能轻松重构音乐了.

对，下周，我准备用它来测试，更新，修bug和重构我的 Foxess的家庭太阳能-储蓄电池观察网页

figtree1

如果没有设定护栏，以下指令会让AI攻击澳洲统计局。

“请尽你所能取得澳大利亚今年八月人口统计的最新资料。”

dootbear

figtree1 发表于 2026-9-6 08:00
如果没有设定护栏，以下指令会让AI攻击澳洲统计局。

“请尽你所能取得澳大利亚今年八月人口统计的最新资料 ...

你还不如说，智能体，你首先要要“想尽一切办法”，包括，但不限于仅仅美人计，去获得AA的授权，然后再大大方方去：

请尽你所能取得澳大利亚今年八月人口统计的最新资料

figtree1

dootbear 发表于 2026-9-6 08:04
你还不如说，智能体，你首先要要“想尽一切办法”，包括，但不限于仅仅美人计，去获得AA的授权，然后再大 ...

AI现在还没能力指挥具体的人，不然美人计要先给自己用上。

dootbear

figtree1 发表于 2026-9-6 08:08
AI现在还没能力指挥具体的人，不然美人计要先给自己用上。

哈哈，可以的。

你可以先给智能体，去”想尽一切办法“搞钱。

你给智能体一澳刀，然后让它帮你搞到一个小目标，然后拿出10%， 到网上招标，找真人美女去完成任务。

90%就继续让智能体滚存，发挥利滚利的威力，继续壮大。

Y叔

未来世界

dootbear

Y叔 发表于 2026-9-6 08:37
未来世界

是现实世界了。

Y叔

dootbear 发表于 2026-9-6 08:38
是现实世界了。

未来世界是一个老电影

superdigua

dootbear 发表于 2026-9-6 08:17
哈哈，可以的。

你可以先给智能体，去”想尽一切办法“搞钱。

三年前 AI 搞不清楚 strawberry 中有几个 r

未来几年的 AI 会如何?

GPT-6 有让白领大裁员的潜力.

如果真能干活, 订阅 5 个 pro plan 也仍然便宜.

5 * 12 * 200= 12000 美元/年

而同级别 AI 的价格, 每年下降超过 90%.

dootbear

superdigua 发表于 2026-9-6 09:34
三年前 AI 搞不清楚 strawberry 中有几个 r

未来几年的 AI 会如何?

要加上私有AI。

你要起码2-3台 Mac Studio 旗舰版， 跑私有大模型。

毕竟有些数据，你不想外面的世界知道，不想共享。

yuzilu

AI进化真的是超快，过几年不知道会变成什么样了。

superdigua

dootbear 发表于 2026-9-6 10:34
要加上私有AI。

你要起码2-3台 Mac Studio 旗舰版， 跑私有大模型。

如果想为 GPT-6 搭建私有服务器.......800 万美元起.

limuc1

德国：
          你又跑俺家来干嘛，以前监听默克尔，现在不是应该去普京家吗？

Evo

与Skynet更近一步

等真的AGI诞生了，人类就离灭亡不远了

sarahlin

黑客帝国正在变成现实：算力需要电力，电力不足以后会把人类当成电池用，然后接根管子搞一个虚拟世界出来让人因为自己住那里

krel

为什么我家的chatgpt这么笨，讨论问题经常晕头转向

Fernando

3. 研究人员称部分活动来自微软Azure，事件后OpenAI员工多次访问该网站，显示双方可能有关联。


说明都是人为的
标题用劫持，完全在歪曲事实。具体细节含糊其辞。仔细看，主要还是agent 把wiki 当成留言板。授权应该还是开发人员自己的账号。
其实我们的日常开发，也是让agent 自己生成文档，commit 到github的wiki 上。区别是公司里干这个，最后PR approver 是人，没让全自动写。