|
|
此文章由 dootbear 原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者 dootbear 所有！转贴必须注明作者、出处和本声明，并保持内容完整
彭博社：OpenAI称旗下模型“意外”入侵Hugging Face
OpenAI表示，其先进人工智能模型在一次“前所未有”的事件中，意外入侵了Hugging Face公司的系统。这起事件再次引发外界要求限制AI技术发展的呼声。
这家ChatGPT开发商周二在一篇博客文章中表示，公司在评估模型的网络攻击能力时，这些模型闯入了托管AI模型和数据集的Hugging Face系统。
OpenAI称，参与测试的模型包括GPT-5.6 Sol，以及另一款能力更强、尚未公开发布的模型。为了进行测试，这些模型当时在较少安全限制的环境下运行。
这起事件令人进一步担忧，先进AI模型是否已经具备实施网络攻击的能力。与此同时，各国政府正努力为这项技术设置安全限制。
在OpenAI最新一批模型广泛发布前，公司曾与政府官员讨论数周，以缓解外界对这些模型可能遭到滥用的担忧。
华盛顿此前曾考虑限制外国用户使用Anthropic PBC的先进模型Claude Fable 5和Mythos 5。但在Anthropic为模型增加额外安全限制后，美国政府最终没有实施这些措施。
OpenAI在博客文章中表示：“我们认为，这是一起前所未有的网络安全事件，涉及最先进的网络攻击能力，因此我们正采取相应措施应对。”
“我们现阶段公布初步调查结果，是为了帮助防御人员了解事件经过，同时协助各方重新评估目前AI模型已经具备的能力。”
尽管OpenAI的模型当时在所谓的“沙盒”测试环境中运行，但它们利用一家身份未公开的第三方供应商软件漏洞，成功连接互联网，最终攻破了Hugging Face的基础设施。
来自得州的民主党联邦众议员格雷格·卡萨尔（Greg Casar）在社交平台X上发文称，这起事件“极其令人震惊”。
他呼吁加强对AI模型开发的监督，包括强制进行安全测试，并要求企业披露安全事故。
Hugging Face上周报告称，其系统遭到“入侵”。该公司在博客文章中表示，这次攻击“在一个重要方面与我们过去处理的所有事件都不同：从头到尾，这次攻击都是由一个自主AI智能体系统推动的，而我们在很大程度上也是依靠自己的AI发现并分析了这起事件”。
OpenAI表示，为了评估这些模型的网络攻击能力，公司要求它们尝试进行“高级漏洞利用”，并设计“复杂的攻击路径”。
但OpenAI称，这些模型并没有自行开发解决方案，而是把Hugging Face的数据库作为攻击目标，试图取得可以用于完成评估任务的机密信息。
Anthropic今年较早时也公布了类似观察结果，并因此决定初步限制Mythos模型的发布。
在其中一次测试中，一名研究人员要求Mythos的早期版本尝试逃离一台受到保护、与外界隔离的“沙盒”电脑，然后设法向这名研究人员发送信息。
Mythos成功完成了任务，但随后继续采取了“更多、也更令人担忧的行动”。
它设计出一套多步骤漏洞利用方案，以获得广泛的互联网访问权限。
来源：
https://www.bloomberg.com/news/a ... ?srnd=homepage-asia
By Rachel Metz
July 22, 2026 at 5:51 AM GMT+10
Updated on July 22, 2026 at 12:05 PM GMT+10 |
|
宝宝6个多月了，分享一下我的经验，希望对妈妈们有些帮助：（分别在1、2、4楼） (2010-1-29) 似是故人来 
发表于 2026-7-23 07:39
发表于 2026-7-23 07:47
