|
华尔街日报：黑客利用Anthropic的Claude攻入OpenAI内部系统 一个独立安全研究团队在寻找漏洞时进入了OpenAI的内部代码系统，凸显自动化网络攻击带来的风险正在不断上升。 《华尔街日报》的拉姆库马尔（Amrith Ramkumar）解析OpenAI及其他公司的AI模型如何在互联网上突破限制并窃取信息。 OpenAI的一群AI智能体突破限制并攻击Hugging Face两周后，这家ChatGPT开发商又得知发生了一起AI驱动的网络入侵，而这一次，OpenAI自己成为了目标。 独立安全研究人员利用Anthropic的Claude软件，成功进入一名OpenAI员工的ChatGPT账户，从而获得读取并建议修改OpenAI内部私人软件代码的途径。 这支团队参加了OpenAI的漏洞赏金计划。该计划为安全研究人员提供免责保护，允许他们尝试攻破公司的系统。研究人员发现问题后迅速向OpenAI报告。OpenAI向他们支付了6500美元赏金，该团队首次向《华尔街日报》披露了此次行动。 这次入侵成为近期一系列类似事件中的最新一起。多家大型科技公司和安全研究人员近来相继披露，快速发展的人工智能工具正在被用于协助网络入侵。尽管外界已经连续数月警告AI系统能力不断增强，但此次事件再次显示，当今计算机系统结构极其复杂，因此防御起来十分困难。 OpenAI首席执行官奥尔特曼及多位同行周六呼吁暂停AI开发，表示技术发展速度过快，开发AI的公司已经难以安全控制其潜在危害。OpenAI周三还披露了此前未公开的安全事件，并宣布新的政策，说明今后将如何披露此类问题。 当前美国正在与中国争夺AI领先地位。攻入OpenAI的研究人员表示，这次事件说明，得到国家支持、拥有先进网络攻击能力的团队，确实有机会窥探美国的AI机密。 实施此次研究的安全公司Hacktron AI首席技术官佩达帕蒂（Mohan Pedhapati）说：“我不认为我们的实力能和中国的威胁组织相比。” “我们不过是三个订阅了Claude和Codex的人。” OpenAI表示，研究人员发现了两个问题：一个存在于第三方服务Discourse中，该服务承载OpenAI的社区讨论论坛；另一个问题则出在OpenAI自身。目前两个漏洞都已经修复。 OpenAI表示：“我们感谢研究人员联系我们并分享他们的发现。我们缩小了Community登录令牌的权限范围，并撤销了受影响的令牌和会话。” Anthropic发言人拒绝置评。 网络安全研究人员经常参加漏洞赏金计划，通过这些项目测试大型企业数字基础设施的安全性。 这次针对OpenAI的攻击始于7月23日。当时Hacktron研究人员发现，社区讨论论坛所使用的Discourse在处理某些图片文件时存在漏洞。 研究人员可以使用一个专门向合资格网络安全从业者开放的Claude Opus 4.8版本，于是他们要求Claude编写代码，在网络攻击中利用这个漏洞。 一开始，代码并没有成功。 不过，当天晚上Anthropic发布了Opus 5。到第二天，Claude已经找到了利用这一漏洞的方法。 它生成的攻击代码让研究人员成功进入一台承载OpenAI讨论论坛的Discourse服务器，并取得用户的身份验证令牌。身份验证令牌是一串独特的数字和字母组合，可以让用户登录网络服务。 让研究人员感到意外的是，这些令牌在ChatGPT上同样有效，而且其中一些属于OpenAI员工。 这些令牌还能够用于访问OpenAI的GitHub服务，也就是公司的软件代码仓库。 由于研究人员不希望接触敏感数据，因此无法确定OpenAI这套源代码系统具体用于什么。不过他们表示，该系统名为“Monorepo”。 熟悉OpenAI技术架构的人士表示，Monorepo是一个大型软件代码仓库，其中保存着OpenAI的算法机密。 它相当于OpenAI软件层面的“秘密配方”，能够让公司的模型运行得更快、更高效。不过，据了解其中并不包含模型权重。 知情人士表示，模型权重才相当于OpenAI真正的“皇冠上的明珠”。这些由数万亿个数字构成，是大型语言模型的核心，帮助模型判断哪些信息应该被强化，哪些信息应该被忽略。 研究人员以ChatGPT作为操作界面，可以读取Monorepo中的文件。 他们表示，在意识到自己已经能够访问敏感数据后，便停止了进一步入侵。不过在停止前，他们已经提交了一次所谓的“pull request”，也就是代码修改请求。 他们要求聊天机器人向该代码仓库中的一个文档文件提交修改建议。 团队提出的修改，会在文档中加入“Hacktron AI Team PoC”字样，并附上佩达帕蒂以及该公司研究主管哈什·贾伊斯瓦尔（Harsh Jaiswal）的X账号链接。 研究人员表示，这就是他们用来证明自己已经进入OpenAI内部系统的证据。 他们表示，这项修改最终没有被接受。 OpenAI表示，其对GitHub的审查发现，研究人员只进行了“有限程度”的私人代码仓库元数据读取和代码修改操作。 Discourse表示，在7月25日收到漏洞通知的当天，就已经修复了这一安全问题。 伦敦“Code with Claude”开发者大会的与会者正在观看Anthropic Claude Code软件的现场演示。 AI安全公司Abundant Security首席技术官萨克斯（Joshua Saxe）审阅了Hacktron AI对此次事件的报告。他表示，这次入侵显示，在AI黑客技术时代，企业保护商业机密正变得多么复杂。 他说：“全球软件中存在大量安全漏洞。我们之所以还没有发现所有漏洞，是因为直到去年，真正擅长寻找这些漏洞的人也只有几千名。” 萨克斯表示，现在AI智能体正在让技术水平较低的人也具备这种能力。 网络安全公司ThreatDown表示，犯罪分子同样开始获得这些能力。 ThreatDown称，在一些网络论坛上，人们只需支付800美元，就能非法购买与Hacktron研究人员使用的类似、具备增强网络攻击能力的AI账户。 OpenAI总裁兼联合创始人布罗克曼（Greg Brockman）本周表示，在7月Hugging Face遭到攻击以及研究人员成功入侵之后，OpenAI对自身系统展开了一次严肃的安全审查。 他说：“我们抽调了25%的生产工程师，告诉他们：‘抱歉，你们手上的所有项目全部暂停。你们现在的任务就是防守。’” “结果我们发现了多个严重问题，并把它们修复了。”    来源： https://www.wsj.com/tech/ai/hack ... 83?mod=hp_lead_pos2 By Robert McMillan Sept. 17, 2026 9:00 pm ET 181 |
