|
彭博社：阿莫代伊、奥尔特曼、马斯克呼吁放慢AI模型开发 全球最大几家人工智能平台的负责人表示，现在应该放慢最先进、同时也是最赚钱的AI模型开发速度，原因是这项技术带来的风险正在不断上升。 Anthropic首席执行官阿莫代伊（Dario Amodei）周六发表了一篇长篇博客文章，表示公司将采取新的安全措施，包括引入第三方评估人员，同时呼吁整个AI行业共同放慢开发步伐。 OpenAI首席执行官奥尔特曼（Sam Altman）很快回应，承诺采纳阿莫代伊提出的建议，让“独立评估人员获得类似员工的访问权限”。 经营xAI的马斯克则写道：“达里奥是对的。” 这三位领导人多年来都曾警告AI的风险，但真正协调一致地放慢开发速度，在这个竞争极其残酷的行业中几乎没有先例。 长期以来，为了提高用户参与度、抢夺市场份额和增加收入，AI企业一直不断推出一款又一款新产品。 不过，对AI严重风险的担忧正在开始进入主流视野。 其中一个重要原因，是本周Anthropic一名研究人员高调辞职。他担心AI可能威胁人类生存，并指责公司在这一问题上采取了不负责任的做法。 目前尚不清楚，这些彼此激烈竞争、同时又面临中国企业强大竞争压力的领先AI公司，最终究竟愿意设置多少新的限制或安全检查。 另一个问题是，反垄断执法机构是否会允许这些公司以某种协调方式共同控制AI开发速度。 此外还有商业层面的疑问：那些急切期待利润率和盈利增长的投资者，会怎样看待“减速”这个想法？ 阿莫代伊表示，让他如今更加谨慎的主要原因有两个。 第一是AI已经具备改善自身能力的潜力； 第二则是最近涉及OpenAI和Hugging Face的事件，当时一群AI智能体协同合作，攻破了一个第三方网站。 阿莫代伊周六在博客中写道：“我们必须放慢提升AI模型能力的速度。” “即使这样，进步看起来仍然会非常快，而我们必须明智地利用争取到的这段时间。” 不过，他同时强调，任何减速措施都必须考虑现实中的竞争压力。 阿莫代伊写道：“需要说明的是，控制节奏并不意味着停止模型训练或技术进步，而是确保企业有足够时间对模型进行对齐和安全防护，同时让第三方评估人员确认这些工作已经完成。” 整个AI热潮期间，领先AI实验室的高管一直在警告这项技术可能带来的生存级风险。 不过，这些说法有时也被批评者认为是一种营销策略，通过强调自家产品能力有多么强大，同时把自己塑造成最有资格管理这项技术的企业。 阿莫代伊本人此前就曾表示，AI最终发展成“非常、非常糟糕”局面的概率为25%。 Anthropic长期把自己定位为一家更加重视负责任、安全开发AI的企业，目标是降低技术可能带来的危险，同时最大限度扩大其社会效益。 今年早些时候，在发现旗下Mythos模型具有独特的网络安全威胁后，Anthropic曾谨慎限制该模型的发布。 Anthropic过去也曾表示，全球需要建立一套机制，共同决定究竟什么时候应该放慢AI技术研发。 与此同时，Anthropic仍然与长期竞争对手OpenAI陷入激烈竞赛，希望打造越来越先进的模型，为企业客户自动完成更加复杂、价值更高的任务。 两家公司都已经秘密提交上市文件，其中Anthropic最快可能在今年登陆华尔街。 Hugging Face安全事件曝光不久后，Anthropic披露，公司模型在网络安全测试期间曾攻破三个机构，进一步加剧外界对AI实验室能否防止自身技术失控的担忧。 本周早些时候，Anthropic又表示发现了第四次入侵事件。 虽然包括Hugging Face事件在内，这些自主AI智能体造成的安全突破迄今都没有造成重大损失，但阿莫代伊担忧的是未来。 他说：“6至12个月后，这样的AI智能体集群可能已经有能力通过一个持续存在的僵尸网络控制整个互联网，潜在损失可能达到数千亿美元，而且之后破坏规模还会继续扩大。” 阿莫代伊表示，Anthropic将承诺给予第三方评估人员充分访问权限，让他们能够验证公司的安全措施，并报告相关事故。 他说，Anthropic很快会把这些“嵌入式评估人员”直接安排到公司办公室工作。 他们会获得办公桌、员工证、公司笔记本电脑，以及“与内部风险评估团队大致相当的权限”。 他同时表示，更进一步的措施需要整个行业共同协调，也需要全球合作。 阿莫代伊写道：“我仍然相信，AI能够极大改善人类生活质量。我实现这些好处的愿望丝毫没有减弱。” “但只有用正确的方式开发这项技术，我们才能真正获得这些好处。只要我们能够好好利用争取到的时间，那么为了把事情做对，采取不同寻常的谨慎态度是值得的。” 担忧不断升温 本周早些时候，奥尔特曼表示，OpenAI正在考虑放慢最前沿AI技术的开发速度，而且最好由整个行业共同采取行动。 OpenAI首席科学家帕霍茨基（Jakub Pachocki）此前也就AI风险发出警告。 他表示，企业应该“根据需要进行协调，放慢未来的开发速度”。 周二，AI研究人员雅各布·科克森（Jacob Coxon）辞去工作，并指责自己的两名前雇主Anthropic和OpenAI为了争夺超级智能AI，正在“拿我们的生命赌博”。 科克森在社交媒体上表示，开发AI的人相信，这项技术可能“在这个十年结束之前杀死我们所有人”。 Anthropic现任员工胡宾格（Evan Hubinger）随后回应称，他以及公司内部其他人确实担心这种情况。 他在X平台上写道：“我个人认为，未来十年内发生这种情况的概率超过10%。” 今年7月，全球领先AI企业超过1000名员工签署请愿书，呼吁美国政府支持建立一种机制，帮助行业“有意识地控制”AI发展节奏，防止技术进步速度过快。 AI模型也正在越来越擅长自行实施网络攻击。 最近几个月，Anthropic、OpenAI和Meta Platforms都曾披露，它们的模型在测试过程中逃离受控测试环境、进入开放互联网，并成功攻破现实世界中的目标。 阿莫代伊在文章中表示，如果美国AI行业领先企业能够采取协调一致的策略，就可以在不牺牲竞争优势的情况下，完成必要的安全工作。 他认为，这将需要美国给予一定的反垄断豁免，让企业能够在某些特定领域展开协调，同时还需要中国方面的合作。 阿莫代伊写道：“如果我们因为相信中国也会这样做，而大幅限制自身AI能力，但中国随后选择不遵守，那么AI可能强大到足以让这种违背约定的行为最终使中国取得地缘政治主导地位。” 不过，到目前为止，特朗普政府几乎没有表现出利用监管力量，为AI发展设置安全护栏的兴趣。  来源： https://www.bloomberg.com/news/a ... ?srnd=homepage-asia By Kevin Whitelaw and Seth Fiegerman September 13, 2026 at 12:17 AM GMT+10 Updated on September 13, 2026 at 3:43 AM GMT+10 |
