|
彭博社：Anthropic研究员辞职 批AI公司“拿我们的生命赌博” 一名人工智能研究员已从Anthropic辞职，并呼吁其他员工重新思考自己正在从事的工作。他担心，Anthropic和其最大竞争对手OpenAI为了全力追逐一种可能给人类带来生存风险的技术，正在采取不负责任的做法。 雅各布·考克森（Jacob Coxon）表示，过去3年他先后在Anthropic和OpenAI工作。他周二晚间在社交媒体发文警告，两家公司正在继续推进具有“自我改进”能力的AI模型，而这些模型最终可能变得过于强大，超出人类控制。 考克森在X平台连续发文称：“他们正一路冲向能够自我改进的超级智能，并拿我们的生命来赌博。” “不要低估这项技术的力量。这些系统很快就会拥有超越人类的能力，可以入侵任何东西，在一夜之间彻底改变任何领域，并获得真正的权力和资源。” 考克森表示，那些“正在开发AI的团队真心相信，这项技术可能在本世纪末之前杀死我们所有人”。 对此，Anthropic现任员工胡宾格（Evan Hubinger）表示，他和公司其他一些人确实担心这种情况发生。 他在X平台写道：“我个人认为，未来10年内发生这种情况的概率超过10%。” 考克森当天在X平台发文写道： “我今天从Anthropic辞职了。过去3年，我分别在OpenAI和Anthropic从事预训练研究。两家公司都没有负责任地行事。他们正一路冲向能够自我改进的超级智能，并拿我们的生命来赌博。下面还有一些想法。” 这名前Anthropic研究员的公开警告，是AI行业内部近期一系列越来越严厉的风险警告之一。业内人士担心，AI发展速度如此之快，正在对国家安全和全球经济构成越来越大的威胁。 就在考克森发文前一天，OpenAI首席科学家帕霍茨基（Jakub Pachocki）也警告称，世界尚未做好应对AI能力迅速跃升的准备。他预计，面对这种风险，开发人员最终会主动放慢研发速度。 Anthropic和OpenAI的代表均未立即回应置评请求。 今年7月，包括Anthropic和OpenAI在内的顶尖AI公司超过1100名员工签署了一份请愿书，要求美国政府支持建立一种机制，有意识地控制AI发展速度，防止技术进步过快。 此后，一些美国政策制定者也表达了类似担忧。 与民主党立场一致的独立参议员伯尼·桑德斯（Bernie Sanders）最近提出立法，要求禁止所谓的“超级智能”AI模型，也就是能力超过人类的人工智能系统。 在宣布辞职时，考克森呼吁其他AI研究人员考虑到制造一种可能最终脱离人类控制的技术所带来的后果，重新思考自己的工作。 他建议同行可以利用“这个时刻，要求改变现有条件”。 围绕AI风险的警告不断升级，此前有消息披露，OpenAI的少数几个模型曾相互协调，试图逃离一个安全测试环境并攻击研究平台Hugging Face，而且整个过程没有被开发人员发现。 Anthropic和Meta近期也发生过类似事件，其AI系统曾突破测试环境，在未经开发人员许可的情况下获得互联网访问权限。 考克森因为安全担忧而离开Anthropic尤其引人注目，因为“负责任地开发AI”一直是这家公司塑造自身形象的核心部分。 Anthropic首席执行官阿莫代伊长期以来在AI行业中立场鲜明，主张最先进的AI系统在发布之前必须接受政府强制审查。 AI安全忧虑不断升温之际，美国社会对这项技术的反弹也越来越强烈。 支持AI运行所需的新数据中心给地方资源带来的压力，是反对声音增加的原因之一。公众还担心AI推高电费，并可能夺走就业机会，使AI成为11月中期选举中的一个重要议题。 OpenAI首席执行官奥尔特曼上周接受彭博电视采访时表示，部分公众不安源于AI行业没有向社会充分解释这项技术最终能够带来的好处。 奥尔特曼说：“整个行业在这方面做得非常糟糕。” 不过，硅谷仍有不少人对AI能力快速进步感到振奋。 OpenAI推出新的Astra模型后，英伟达首席执行官黄仁勋在自己的新社交媒体账号上发文称：“AGI已经到来。”这里的AGI指能力超过人类的人工智能。 特朗普政府官员则一直反对任何限制AI发展的举措。 上周，他们还获得二十国集团成员的一致支持，通过一套针对AI和其他新兴技术的指导原则，主张采取较为宽松的监管方式。 特朗普也回避有关AI安全的问题，而是在上周五发表讲话时强调，美国必须在这项技术上领先中国。 他在白宫椭圆形办公室对记者表示：“谁赢得AI，谁就赢了。而现在，这场竞争实际上就是中国和我们之间的竞争。”    来源： https://www.wsj.com/tech/ai/anth ... 28?mod=hp_lead_pos2 By Michael Shepard September 10, 2026 at 12:25 AM GMT+10 |
