|
华尔街日报：Anthropic呼吁全球暂停AI开发，警告AI“自我改进”风险 这家估值一万亿美元的初创公司警告称，AI模型正接近无需人类干预即可自我改进的能力。 Anthropic呼吁顶级人工智能实验室考虑放慢开发速度。该公司认为，AI系统正在以如此快的速度进步，以至于它们可能很快就能在没有人类干预的情况下自我改进，而这种方式可能带来重大的社会风险。 该公司周四在一篇博客文章中表示，能够放慢全球AI开发速度“很可能是一件好事”。 该文章披露了内部数据，记录其最先进模型进步的速度。 这篇文章由Anthropic内部研究机构负责人和政策负责人撰写。 文章指出，模型进步似乎正朝着“递归式自我改进”（recursive self-improvement）的方向发展，即AI系统能够在没有人类干预的情况下自行改进。 一些AI业内人士认为，这一门槛可能是危险和巨大社会动荡的潜在标志。 文章由玛丽娜·法瓦罗（Marina Favaro）和杰克·克拉克（Jack Clark）撰写。文中表示：“我们认为，让世界拥有放慢或暂时暂停前沿AI开发的选择，将是一件好事，以便社会结构和对齐研究能够跟上技术进步。” 文章提出，应就如何潜在放慢AI开发达成全球协议，并建立一种机制，用于核实竞争对手是否遵守相关安排。 文章提醒称，递归式自我改进尚未发生，也并非不可避免，“但它可能比大多数机构准备好的时间更早到来”。 Anthropic最近完成一轮融资，公司估值接近1万亿美元，并已秘密提交文件，启动公开上市程序。 该公司最近在与ChatGPT开发商OpenAI争夺AI霸主地位的激烈竞争中成为领先者。 OpenAI预计也将很快提交首次公开募股文件。 Anthropic的运行率收入，也就是初创企业常用的、根据短期销售额预测年度收入的指标，预计将在本月底达到500亿美元年化收入，高于2025年底的90亿美元。  来源： https://www.wsj.com/tech/ai/anth ... 73?mod=hp_lead_pos1 By Bradley Olson Follow and Sam Schechner Follow June 4, 2026 at 3:44 pm ET |
