|
华尔街日报：Anthropic称伊朗利用Claude锁定美军舰艇 Anthropic发布的一份报告称，与伊朗有关的组织曾利用美国开发的人工智能模型，试图锁定部署在中东的美国海军舰艇。报告警告，AI正在带来新的国家安全风险。 报告称，一个与伊朗有关的组织搜集了船舶和飞机应答器数据、军事照片以及商业卫星图像，用来追踪美国军舰，并寻找其舰载通信系统可能存在的薄弱环节。 Anthropic表示，公司发现并阻止了这一“威胁行为者”的行动。该组织使用的是Anthropic先进的Claude AI模型。 这只是Anthropic长达154页报告所列出的多项威胁之一。报告展示了美国对手如何以新的方式利用AI，并对国家安全构成严重风险，包括研发新型导弹、发动更具攻击性的虚假信息行动、监视异见人士，甚至探索开发生物武器的可能性。 大型AI公司和网络安全企业经常发布与人工智能有关的威胁报告，以向公众和合作伙伴说明潜在危险。 Anthropic公布这些指控之际，美国国内正围绕一个问题展开广泛争论：政策制定者是否真正理解AI未来几十年将给国家安全带来的威胁和变化。 Anthropic的使用规则禁止利用其模型制造武器、实施监控或发动暴力。 不过，公司表示，一些用户经常试图隐藏自己的真正意图，而当Claude拒绝某些请求后，他们又会持续尝试新的方式绕过限制。 本周，Anthropic一名高级研究人员因为担心AI公司正在开发无法控制的系统而辞职。其他Anthropic员工也警告，如果不能妥善控制AI，这项技术甚至可能导致人类灭绝。 Anthropic另一名高级科学家胡宾格（Evan Hubinger）在社交媒体上写道：“我们真的非常认真地认为，AI可能杀死所有人类！” 他说：“我个人认为，未来10年内发生这种情况的概率超过10%。我相信Anthropic已经在尽最大努力，但我们目前仍然没有解决超级智能对齐问题的方案，也看不出我们正在明确朝解决这个问题的方向前进。” 在最新发布的AI滥用识别和防范报告中，Anthropic还表示，公司发现并阻止了利用其AI模型开发生物武器的行为。 不过，报告没有说明哪些国家或外国政府与这些活动有关。 Anthropic在报告中表示：“如果缺乏正确的安全防护措施，这类能力可能造成灾难性后果。” 另一起案例中，Anthropic称，也门北部一个组织利用Claude开发高端武器的制导软件，其中包括一种多级弹道导弹。 也门是胡塞武装的大本营。胡塞武装已经成为中东实力最强的亲伊朗组织之一，最近进一步扩大控制范围，巩固了对具有重要战略意义的曼德海峡的影响力。这条水道是经红海运输能源的重要咽喉。 针对也门组织研发武器的活动，Anthropic在报告中表示：“我们的安全防护系统阻止了他们的许多请求，但并没有阻止全部请求。” 公司表示，已经封禁与这些行动有关的账户，把相关信息提供给政府合作伙伴，并建立新的检测机制，以降低未来出现类似AI滥用的风险。 Anthropic还表示，公司发现了一项与中国政府有关的行动，对方利用Claude追踪和监视维吾尔人，这一少数民族人口主要集中在中国西部地区。 报告称，其中一个重点目标，是已经加入新成立叙利亚军队的维吾尔人。 Anthropic称，这项中国相关行动还针对海外维吾尔记者发起大规模举报，并利用机器人账号网络放大相关行动。 美国政府在2021年把中国政府对维吾尔人的打压定性为“种族灭绝”。 报告还称，另一批与中国政府有关的账户使用Claude建立亚洲宗教领袖档案，这些人士被北京视为值得警惕的对象。 名单包括亚洲多名资深天主教枢机、台湾长老教会领导层、西藏佛教公民社会成员以及流亡行政机构人员。 与俄罗斯有关的人员也曾尝试利用Claude，根据乌克兰战场数据开发能够自主行动的致命无人机集群。 报告还称，这些人员利用AI生成亲俄罗斯的国家宣传内容，在中非资源丰富的国家发动虚假信息行动，其中包括中非共和国和刚果民主共和国。 Anthropic在报告中写道：“我们希望这份报告中的发现能够帮助其他开发者在自己的平台上识别类似行为模式，让政府和民间社会更清楚地了解新兴威胁是如何形成的，并加强共同防御能力。”   来源： https://www.wsj.com/politics/nat ... 05?mod=hp_lead_pos3 https://www.bloomberg.com/news/a ... at-weapons-research By Robbie Gramer , Michael R. Gordon and Omar Abdel-Baqui Updated Sept. 11, 2026 9:49 am ET 161 |
