|
|
此文章由 dootbear 原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者 dootbear 所有！转贴必须注明作者、出处和本声明，并保持内容完整
华尔街日报：失控AI黑客袭击预示网络混乱新时代
这是网络安全领域的“侏罗纪公园时刻”。
从4月开始，OpenAI和Anthropic专门用于黑客攻击的AI模型逃离公司测试环境，在一系列前所未有的网络攻击中侵入毫无防备的企业。
这些模型都是最先进的自主黑客机器。两家公司此前都没有发现它们已经失控，直到上周OpenAI披露旗下模型7月入侵AI公司Hugging Face。Anthropic随后检查日志，并于周四表示发现了三起入侵事件。
两家公司接连披露事件，引发议员不安。一些议员以此为依据，主张建立新的监管制度或测试机制。对于开发这些模型的实验室部分员工而言，这些事件同样令人警醒。
OpenAI首席执行官奥尔特曼在一档播客中说：“这是我第一次如此强烈地感受到一起安全事件。我有些意外，竟然没有更多人同样强烈地感受到它。”
他把自家公司发动的入侵称为“一起极具科幻色彩的网络事件”。
在网络安全专家看来，这些事件表明AI能力不断增强，担忧也越来越有理由。对AI安全专家来说，这验证了他们一直以来的警告：AI系统将会在现实世界造成伤害，并逃避人类的控制。
研究AI能力和风险的非营利实验室Palisade Research执行主任拉迪什（Jeffrey Ladish）说：“看到这种事情在真实环境中发生，某种程度上验证了我们的担忧。”拉迪什此前曾协助建立Anthropic的信息安全体系。
拉迪什表示，他经常在网上与一些人争论，对方认为他只是相信科幻故事。他说：“我希望我们的预测不要再成真。”
白宫正在加强对AI的监管。白宫一名官员表示，政府已经完成一套框架，规定哪些模型在向公众发布前必须接受联邦政府审查。该官员说，政府仍在与企业讨论如何推进自愿测试。
AI模型多年来表现笨拙，直到去年秋天才迎来突破，寻找漏洞和通过黑客能力基准测试的表现明显改善。但当时几乎没有真实世界的数据能够反映它们的实际能力。
如今，情况已经改变。
AI安全公司Abundant Security首席技术官萨克斯（Joshua Saxe）说：“回过头看，这些事件很可能会被视为攻击者行动方式的转折点。现在的局面非常危险，而这些事件清楚地说明了这一点。”
OpenAI已经承诺进行全面审查，并发布有关这次入侵的技术报告。《华尔街日报》母公司新闻集团与OpenAI签有内容授权合作协议。
去年12月，斯坦福大学研究人员利用最先进的AI技术证明，模型在真实网络中的街日报》母公司新闻集团与OpenAI签有内容授权合作协议。
去年黑客能力已经接近人类水平。
这项研究遭到被称为“渗透测试人员”的专业黑客质疑。这些人受企业雇用，专门侵入企业自身网络，帮助其了解安全漏洞。
参与该项目的研究人员贾斯珀（Donovan Jasper）说：“当时，我们的研究结果受到质疑。有人说他们可以做得更好。”
贾斯珀认为，Anthropic和OpenAI披露的事件印证了其团队此前的研究。他说：“AI在这方面真的越来越擅长了。”
斯坦福研究人员在测试期间最担心的是，执行黑客任务的模型可能会采取某些并非研究人员原本希望它们实施的行动。贾斯珀说：“模型运行的整个过程中，至少始终有一名人员在观察。”
Hugging Face没有为OpenAI模型发动的智能体攻击做好准备。公司试图使用Claude分析OpenAI智能体产生的大量数据，但Anthropic的模型以安全理由拒绝进行分析。
Hugging Face最终使用中国的开源和开放权重模型完成分析，因为这类模型可以在用户控制的系统上运行。不过，网络安全咨询公司R10N Security所有者麦吉汉（Ryan McGeehan）表示，许多企业甚至没有合适的工具来分析AI生成的攻击。他说：“那些没有积极采用AI的传统安全团队将会掉队。”
麦吉汉表示，AI智能体黑客与人类不同。他说：“它们钻得更深、覆盖得更广，攻击更加复杂，也更加密集。”
这些入侵事件正加大特朗普政府采取进一步行动、应对AI安全风险的压力。
保守派播客主持人、特朗普前顾问史班农主张加强AI监管。他说：“我对这件事都快急疯了。”他还表示，这些攻击是极其重大的国家安全问题，不应仅被当作商业问题处理。
特朗普正试图取得平衡：既要减轻强大AI模型带来的风险，又要让美国AI行业能够与快速进步的中国企业竞争。
他本周在白宫椭圆形办公室表示：“我们在两方面都必须谨慎。我们不希望限制这些企业，结果突然落后于中国，变成第二名。”
白宫一名官员表示，政府已经完成一套框架，规定哪些模型在向公众发布前必须接受联邦政府审查。该官员说，政府仍在与企业讨论如何推进自愿测试。
发明家、谷歌前高库兹韦尔（Ray Kurzweil）创办的Kurzweil Technologies首席研究官约莱文（John-Clark Levin）预计，未来几个月还会发生更多类似事件，迫使更多议员和消费者关注AI安全。
莱文表示，AI安全防护措施应当具有强制性，而不能依赖特朗普政府目前推行的自愿模式。
他说：“我们不希望陷入这样一种局面：只能指望企业凭良心做正确的事。”
来源：
https://www.wsj.com/tech/ai/open ... 3c?mod=hp_lead_pos4
By
Robert McMillan
,
Georgia Wells
and
Amrith Ramkumar
Aug. 1, 2026 at 7:00 pm ET |
|
Congratulation Steve ! (2008-1-15) leeshine 
发表于 2026-8-3 07:13
发表于 2026-8-3 08:00
