|
|
此文章由 dootbear 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 dootbear 所有!转贴必须注明作者、出处和本声明,并保持内容完整
彭博社社论:白宫与Anthropic的争执该结束了
Anthropic PBC最新的人工智能模型名为Claude Mythos Preview,它拥有一种不同寻常的能力:它是世界级黑客。
事实上,该公司表示,Mythos已经发现了“数千个高危漏洞,其中包括每一个主要操作系统和网页浏览器中的漏洞”。
其中一些缺陷已经存在数十年,却一直没有被发现。
据彭博新闻社最近报道,Anthropic对这些结果感到不安,因此没有向公众开放这一模型,而是发布了一份详细的系统说明文件,向政府通报情况,并与一批关键公司合作,通过一个名为Project Glasswing的项目修补漏洞。
这正是人们希望一个负责任的AI实验室采取的那种具有公共责任感的流程。
那么,令人相当费解的是,政府却同时试图把Anthropic列为国家安全威胁。
AI可能削弱网络安全,这一点早已很清楚。前沿模型能够快速扫描大型数据集,找出长期隐藏的缺陷,协助恶意活动,并以其它方式让犯罪分子或外国间谍更容易得手。最近一项研究警告称:“随着AI降低网络攻击所需的专业门槛,并使复杂行动自动化,对手可以以低成本发动更频繁、更复杂、更隐蔽的行动。”
从更长远来看,随着AI系统被专门用于日常发现弱点并加快修复,这些能力可能带来广泛好处。Anthropic将Glasswing形容为“一项紧急尝试,旨在把这些能力用于防御目的”。
不幸的是,这一过程却被一场与白宫之间毫无必要的争执所破坏。Anthropic与国防部有一份合同,向军方提供Claude的专门版本。据称,该公司希望限制其工具被用于大规模监控和自主武器等用途。五角大楼则主张有权将其用于“所有合法目的”。在一场戏剧化的对峙之后,国防部长海格塞斯誓言要把Anthropic列为“供应链风险”,总统则指示联邦机构在六个月内停止使用该公司的产品。双方现在已经对簿公堂。
即使有人同情五角大楼的立场,这样的认定也没有多大道理。对一家美国本土公司作出这种认定极其罕见。政府在其它地方曾主张,Anthropic对保护国家安全至关重要,而据报道,在与伊朗的冲突期间,军方仍继续使用其工具。如果该公司真的像政府所声称的那样构成重大威胁,这样做显然相当不明智。
就Mythos而言,这种做法更是错上加错。本应优先使用这一工具的国防承包商,可能会因为担心违反这项认定而不愿使用。通常可能会与Glasswing这类项目合作的联邦机构,也可能因此犹豫不前。其中一些机构或许可以获得该工具的某个版本,但细节尚未确定。其它潜在合作伙伴则可能担心法律不确定性或政治反弹。实际上,白宫正在阻碍一项关键安全工具的推出和采用。
也许更重要的是,用这种方式对待一家处于前沿位置的美国公司实在荒唐。Anthropic负责人上周与白宫会面;周二,总统说:“我认为我们会和他们相处得很好。”也许双方即将缓和关系。但无论这场争执最终如何收场,它几乎肯定会削弱其它AI实验室对政府的信任,扭曲商业优先事项,阻碍创新,并引发寻租和腐败。或许更糟的是,正如Mythos事件所显示的那样,它可能会主动损害国家安全,尤其是在其它模型也发展出类似能力之际。
围绕AI革命,还有很多事情并不确定。也正因为如此,政府和行业才更有必要站到同一页上。


来源:
https://www.bloomberg.com/opinio ... al-security-efforts
April 24, 2026 at 8:00 PM GMT+10
By The Editorial Board |
|