新足迹 › 论坛 › 澳洲生活区 › 新闻汇总 › 国际新闻 › AI自我改进风险引发Anthropic警告

精华好帖回顾
· 3年之后的十一回目！ (2022-12-20) joaquin	· 关于车的 (2005-3-3) powermao
· 我的二任房东, 重点突出第一个. (2006-8-9) 黑黑	· 我的自助游之湘西攻略 (2004-12-16) sail

查看: 862|回复: 22

[北美] AI自我改进风险引发Anthropic警告 [复制链接]

dootbear

版主

发表于 2026-6-5 07:22 |显示全部楼层

此文章由 dootbear 原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者 dootbear 所有！转贴必须注明作者、出处和本声明，并保持内容完整

华尔街日报：Anthropic呼吁全球暂停AI开发，警告AI“自我改进”风险

这家估值一万亿美元的初创公司警告称，AI模型正接近无需人类干预即可自我改进的能力。

Anthropic呼吁顶级人工智能实验室考虑放慢开发速度。该公司认为，AI系统正在以如此快的速度进步，以至于它们可能很快就能在没有人类干预的情况下自我改进，而这种方式可能带来重大的社会风险。

该公司周四在一篇博客文章中表示，能够放慢全球AI开发速度“很可能是一件好事”。

该文章披露了内部数据，记录其最先进模型进步的速度。

这篇文章由Anthropic内部研究机构负责人和政策负责人撰写。

文章指出，模型进步似乎正朝着“递归式自我改进”（recursive self-improvement）的方向发展，即AI系统能够在没有人类干预的情况下自行改进。

一些AI业内人士认为，这一门槛可能是危险和巨大社会动荡的潜在标志。

文章由玛丽娜·法瓦罗（Marina Favaro）和杰克·克拉克（Jack Clark）撰写。文中表示：“我们认为，让世界拥有放慢或暂时暂停前沿AI开发的选择，将是一件好事，以便社会结构和对齐研究能够跟上技术进步。”

文章提出，应就如何潜在放慢AI开发达成全球协议，并建立一种机制，用于核实竞争对手是否遵守相关安排。

文章提醒称，递归式自我改进尚未发生，也并非不可避免，“但它可能比大多数机构准备好的时间更早到来”。

Anthropic最近完成一轮融资，公司估值接近1万亿美元，并已秘密提交文件，启动公开上市程序。

该公司最近在与ChatGPT开发商OpenAI争夺AI霸主地位的激烈竞争中成为领先者。

OpenAI预计也将很快提交首次公开募股文件。

Anthropic的运行率收入，也就是初创企业常用的、根据短期销售额预测年度收入的指标，预计将在本月底达到500亿美元年化收入，高于2025年底的90亿美元。

来源：

https://www.wsj.com/tech/ai/anth ... 73?mod=hp_lead_pos1

By
Bradley Olson
Follow
and
Sam Schechner
Follow
June 4, 2026 at 3:44 pm ET

人工智能, Anthropic

相关帖子

我的：Foxess的家庭太阳能-储蓄电池观察网页

dootbear

版主

发表于 2026-6-5 07:22 |显示全部楼层

此文章由 dootbear 原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者 dootbear 所有！转贴必须注明作者、出处和本声明，并保持内容完整

本文要点:

1. Anthropic呼吁全球顶级AI实验室考虑放慢或暂时暂停前沿AI开发。

2. 该公司警告，AI模型可能正接近无需人类干预即可自我改进的阶段，并可能带来重大社会风险。

3. Anthropic提出，应建立全球协议和核查机制，以确保各方在放慢AI开发时共同遵守规则。

我的：Foxess的家庭太阳能-储蓄电池观察网页

kawara

水晶靴族

发表于 2026-6-5 07:43 |显示全部楼层

此文章由 kawara 原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者 kawara 所有！转贴必须注明作者、出处和本声明，并保持内容完整

Anthropic为什么还坚持开发还要IPO？

既然他们反复认为AI极度危险就别干了呗

还是通过这些来暗示自己家的AI发展已经到了匪夷所思的程度，从而吸引投资？

krel

皮靴族

发表于 2026-6-5 08:16 来自手机 |显示全部楼层

此文章由 krel 原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者 krel 所有！转贴必须注明作者、出处和本声明，并保持内容完整

他家上市了就呼吁暂停

辰哥

皮靴族

发表于 2026-6-5 08:57 来自手机 |显示全部楼层

此文章由辰哥原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者辰哥所有！转贴必须注明作者、出处和本声明，并保持内容完整

纯好奇他们内部的顶级模型是怎么看自己IPO这事的

BOLANGSHA

水晶靴族

发表于 2026-6-5 09:02 来自手机 |显示全部楼层

此文章由 BOLANGSHA 原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者 BOLANGSHA 所有！转贴必须注明作者、出处和本声明，并保持内容完整

一层窗户纸，你不捅，但架不住别人手欠。这个监管能有多大力度?

ymyx2303

铜靴族

发表于 2026-6-5 09:38 |显示全部楼层

此文章由 ymyx2303 原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者 ymyx2303 所有！转贴必须注明作者、出处和本声明，并保持内容完整

T800要来了吗

pcpop

银靴族

发表于 2026-6-5 09:56 |显示全部楼层

此文章由 pcpop 原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者 pcpop 所有！转贴必须注明作者、出处和本声明，并保持内容完整

感觉就是为了上市忽悠

maxinfang

金靴族

发表于 2026-6-5 09:59 来自手机 |显示全部楼层

此文章由 maxinfang 原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者 maxinfang 所有！转贴必须注明作者、出处和本声明，并保持内容完整

中美合作监管ai 才是拯救人类最后的机会

闲聊者

木屐族

发表于 2026-6-5 10:22 |显示全部楼层

此文章由闲聊者原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者闲聊者所有！转贴必须注明作者、出处和本声明，并保持内容完整

BOSS悄悄把自己的首字母换成了M

yuzilu

金靴族

发表于 2026-6-5 10:25 来自手机 |显示全部楼层

此文章由 yuzilu 原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者 yuzilu 所有！转贴必须注明作者、出处和本声明，并保持内容完整

感觉像自导自演

SLLY2000

皮靴族

发表于 2026-6-5 11:21 |显示全部楼层

此文章由 SLLY2000 原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者 SLLY2000 所有！转贴必须注明作者、出处和本声明，并保持内容完整

AI会不会象克隆基因技术一样会出法律限制？

Y叔

版主

发表于 2026-6-5 11:42 |显示全部楼层

此文章由 Y叔原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者 Y叔所有！转贴必须注明作者、出处和本声明，并保持内容完整

有一天会出现机器人主宰世界吗？

fiony

银靴族

发表于 2026-6-5 12:00 来自手机 |显示全部楼层

此文章由 fiony 原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者 fiony 所有！转贴必须注明作者、出处和本声明，并保持内容完整

AI能自己发电？没有电怎么进化

对你爱不完

金靴族

发表于 2026-6-5 12:22 |显示全部楼层

此文章由对你爱不完原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者对你爱不完所有！转贴必须注明作者、出处和本声明，并保持内容完整

以后绝大多数人就是废物了

ctsnzakl12@gmai

银靴族

发表于 2026-6-5 13:50 来自手机 |显示全部楼层

此文章由 ctsnzakl12@gmai 原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者 ctsnzakl12@gmai 所有！转贴必须注明作者、出处和本声明，并保持内容完整

AI編故事能力非常快且看上去完美
你找到的错误之后认错非常快且还会再送你点額外建议
所以其智力也相当高
就看人类如何监管与控制

千事可乐

皮靴族

发表于 2026-6-5 13:52 来自手机 |显示全部楼层

此文章由千事可乐原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者千事可乐所有！转贴必须注明作者、出处和本声明，并保持内容完整

SLLY2000 发表于 2026-6-5 11:21
AI会不会象克隆基因技术一样会出法律限制？

看过一个介绍，说现在克隆技术凉了，因为研究发现克隆多次后的结果是早亡。

日本山梨大学若山照彦教授团队在《自然·通讯》（Nature Communications）杂志上发表的一项历时20年的重大研究成果。

这项实验揭示了哺乳动物“连续克隆”（也就是把克隆出来的动物再进行克隆，一代一代传下去）的致命边界：克隆无法无限进行，最终会导致品系消亡。

老鼠克隆到第58代后，出生1天就死掉了。于是实验结束。

Cool7

头像被屏蔽

禁止发言

发表于 2026-6-5 13:54 |显示全部楼层

此文章由 Cool7 原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者 Cool7 所有！转贴必须注明作者、出处和本声明，并保持内容完整

不用多看了，这是为自己找借口。
现在的LLM从设计层面上来看，就是不能自己进化的。Anthropic做不到这点。

然后，为了上市圈钱，说做不到是不可能的，所以只能说不要去做，有风险。又解释了为什么没做到，又占了道德制高点。

现在Anthorpic被我鄙视，简直把人当猴耍。摊开了就一句话，你们都不懂AI，所以我怎么胡说八道都行。总会有人信的。

以前是OpenAI到处忽悠人，现在Anthorpic算老大了，轮到他还是忽悠了。