|
|
此文章由 dootbear 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 dootbear 所有!转贴必须注明作者、出处和本声明,并保持内容完整
华尔街日报:美国禁令后,Anthropic暂停顶级AI模型
特朗普政府宣布这些模型存在安全风险后,所有Fable 5和Mythos 5用户均失去访问权限
特朗普政府正在禁止外国政府、公司和个人使用Anthropic最强大的人工智能工具,促使该公司关闭所有人的访问权限,以遵守这项新规定。
一名政府官员表示,美国商务部长卢特尼克周五向Anthropic首席执行官阿莫代伊(Dario Amodei)发出一封信,称该公司最新的Fable 5和Mythos 5模型现在受到出口限制。
这意味着美国境外客户以及美国境内外国公民都被禁止使用这些模型。
Anthropic在一份解释其关闭所有模型访问权限决定的声明中表示,由于限制范围很广,许多外国政府、公司和个人,包括一些外国出生的Anthropic员工,都属于这项规定涵盖范围,因此公司决定限制所有人访问这两个新的强大模型。
Anthropic表示,其其他工具不会影响客户使用。该公司称:“这封信没有提供有关政府国家安全担忧的具体细节。”
这一举措是迄今美国政府干预AI竞赛最强有力的例子之一。Anthropic及其竞争对手正赶在备受期待的首次公开募股之前,竞相向客户推出新工具,而放缓和监管障碍可能让这些公司损失数十亿美元。
世界各地的政府和公司一直在使用Mythos识别和修补软件漏洞。周五的暂停将使这些努力停顿下来,并可能根据暂停持续时间,对网络安全产生深远影响。从金融到能源等关键行业都已在部署该模型。Anthropic本周早些时候向公众发布Fable,这是一款下一代“Mythos级”模型,并配备了可移除危险能力的安全护栏。
几个月来,Anthropic和特朗普政府一直围绕五角大楼如何使用Anthropic AI工具的安全护栏发生争执。分析师表示,周五的行动可能升级双方之间的冲突。包括风险投资家萨克斯(David Sacks)在内的政府官员和顾问,指责该公司存在所谓“末日论”倾向:一边警告AI风险、煽动恐惧,一边继续发布更强大的模型。
一些AI分析师表示,美国政府以如此惩罚性措施针对本国领先企业之一,是前所未有的。
对白手起家的失控模型和网络攻击的担忧,推动白宫在模型发布前寻求更多控制权,并促成特朗普总统最近签署一项行政令。该命令赋予国家安全和网络安全官员在评估模型和网络漏洞时更多控制权,而政府和Anthropic已就谁可以访问该公司顶级工具来回交涉数周。
周五的行动发生在有报道称一名用户绕过Anthropic Fable 5安全护栏之后。这进一步加剧了自该公司今年早些时候开始预览Mythos以来积累的网络攻击担忧。在许多情况下,该模型查找软件漏洞的效率高于人类。
Anthropic以比其他科技公司更支持AI安全措施和监管而闻名。在推出Fable之前,该公司最近几周曾扩大Mythos对更多外国用户的访问权限。该公司还调查过对Mythos的未经授权访问。
Anthropic表示,它认为政府在周五行动前已经了解一种所谓“越狱”方法。该公司称:“我们审查了一个演示,展示了这种特定技术被用于识别少数此前已知的轻微漏洞。这些漏洞看起来都相对简单,而且我们发现,其他公开可用模型无需绕过限制也能发现它们”。
网络安全公司Luta Security首席执行官穆苏里斯(Katie Moussouris)表示,相关越狱研究由亚马逊研究人员完成。他们使用一系列提示,让Anthropic模型提供有关少数安全漏洞的信息。
她说,Anthropic向她分享了该报告副本。
但她表示,该报告中模型提供的信息,对防御计算机网络的人比对攻击者更有用。
她说:“白宫到底是谁评估了这件事,并认为这是威胁?这完全是过度反应,因为这正是防御者会使用的那类提示。”
亚马逊代表没有回复置评请求。
美国商务部负责控制顶级美国技术的访问权限,包括芯片和模型,并且经常重点禁止向外国对手出口,要求获取敏感工具必须申请许可。特朗普政府放松了对训练AI模型所需芯片的出口限制,甚至批准向中国发货,同时回避了拜登时代本会限制模型访问的规则。
这一立场引发行业分析师批评。
他们指出,在新规则下,英国等美国盟友也无法访问Anthropic的顶级技术。
加州大学全球冲突与合作研究所高级研究员古德里奇(Jimmy Goodrich)表示:“商务部强力控制可能构成国家安全风险的AI模型,却又允许生产这些模型所需的芯片卖给我们的外国对手,这令人困惑。”


来源:
https://www.wsj.com/tech/ai/anth ... cc?mod=hp_lead_pos4
By
Amrith Ramkumar
Updated June 13, 2026 at 12:34 am ET |
|