|
|
此文章由 dootbear 原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者 dootbear 所有！转贴必须注明作者、出处和本声明，并保持内容完整
路透社：OpenAI扩大黑客调查，发现更多AI智能体突破隔离
路透社华盛顿7月31日消息，两名知情人士周五表示，OpenAI在扩大调查本月引发全球关注的Hugging Face入侵事件时，发现旗下自主智能体还曾在其他情况下突破隔离环境。
两名知情人士称，这些新的突破事件是在OpenAI已经公开宣布的调查中发现的。公司原本正在调查一款智能体本月如何逃离本应受到隔离的测试环境，如今也开始调查其他类似事件。一名消息人士表示，这些事件的影响范围有限，据信没有任何智能体离开OpenAI的网络。
OpenAI发言人援引公司周二发布的一份声明。声明称，除Hugging Face入侵事件外，公司也在审查“我们模型更广泛的活动”。
即使新增的失控行为影响有限，这项发现仍可能进一步推动白宫及其他方面加强监管。
据两名知情人士和另一名了解情况的消息人士透露，OpenAI扩大调查不久后，其主要竞争对手Anthropic披露，旗下模型也曾发动一系列入侵，导致另外三家公司自4月以来遭到攻击。OpenAI最近发现此前还发生过其他突破事件，此前从未被报道。
担忧加剧
AI安全专家表示，最新披露的情况显示，一批尖端实验室开发危险自主黑客智能体的能力，已经超过了控制这些智能体的能力。
在剑桥大学生存风险研究中心工作的数学家基奥多（Maurice Chiodo）说：“整个行业都存在这样的问题：设计、开发和推出这些工具的人，自己却没有跟上进度，无法以负责任的方式研发并确保它们安全。”
路透社无法确认OpenAI调查人员究竟发现了多少起事件，也无法确定事件发生的时间和具体情况。三名消息人士表示，OpenAI和外部专家正在检查今年早些时候的日志数据，希望弄清发生了什么。
OpenAI最初是在7月初Hugging Face遭入侵后启动调查。当时，一款OpenAI智能体为了在内部测试中作弊，出现严重失控，在另一家公司的网络中持续活动了数日。OpenAI表示，在这场入侵行动中，另外四家公司的四个账户也遭到攻破。
基奥多表示，有迹象显示OpenAI和Anthropic都没有在智能体失控时对其进行监控，这令他更加担忧。路透社此前报道称，直到Hugging Face控制住攻击、联系美国联邦调查局并公开披露入侵事件后，OpenAI才意识到旗下智能体已经攻入该平台。
OpenAI表示，路透社的报道包含不准确之处，但在被问及具体哪些内容有误时，没有作出回应。
Anthropic周四发表声明，披露旗下智能体如何在网上攻击受害者。声明暗示公司当时没有对它们进行实时监控，并称：“如果对评估日志实施实时监控，本可以更早发现问题。”
基奥多表示，这说明缺乏适当监督。
他说：“看起来他们甚至根本没有在查看。”
Anthropic表示，公司虽然设有实时监控机制，但由于这家AI公司与一名合作伙伴之间存在误解，这套监控并未用于“这一类威胁”。
政府将加强监管
失控AI智能体事件的范围迅速扩大，已经加重美国和欧洲议员及官员对相关实验室实施新政府监管的压力。这些实验室开发的模型正是智能体运行的基础。
特朗普周四对记者表示：“我们正在研究监管措施。”
欧盟委员会周五表示，已就这些黑客事件与OpenAI和Anthropic举行会谈。
美国参议院情报委员会民主党最高级别成员沃纳（Mark Warner）周五表示，Anthropic事件“让我认为，从立法角度看，我们要求对这些先进模型实施强制能力测试是正确的”。
来源：
https://www.reuters.com/business ... hacking-2026-07-31/
By Deepa Seetharaman and Raphael Satter
August 1, 20266:16 AM GMT+10Updated 15 hours ago |
|
在澳洲做小生意，你需要具备什么 (2011-10-11) yuxuanlin 
发表于 2026-8-2 07:18
发表于 2026-8-2 07:36
