|
Meta AI的协调总监Summer Yue 一直在测试 OpenClaw，这是一款流行的开源AI Agent （人工智能代理），能够不间断的为用户工作。 Yue在 X 上发布的照片显示，这个AI失控了，准备删除她的电子邮件——即使被指示停止也没用。 在她的 X 帖子中，Yue 的 OpenClaw 机器人说，它将“删除收件箱中所有早于 2 月 15 日，且不在保留列表中的内容”。 Yue 多次尝试阻止它。首先，她给AI Agent 发消息说：“不要这样做。” 当AI Agent 继续计划删除她的收件箱时，她写道：“停止 OpenClaw。” Yue在帖子中说，“我无法通过手机阻止它”，“我不得不像拆炸弹一样冲到我的Mac mini前。” Yue之前曾在她的“玩具邮箱”上试用过OpenClaw，她说这个机器人运行良好，赢得了她的信任。在她“真实邮箱”上测试时，机器人需要压缩大量邮件。 她指示机器人未经授权不得执行任何操作，但她写道，OpenClaw在压缩过程中丢失了这个授权提示。 与其他AI Agent 不同，OpenClaw 无需人工批准就能执行操作。它还采用了基于直觉的编码方式，再加上 OpenClaw 拥有的系统访问权限，导致一些AI研究人员对它的安全性提出了质疑。人工智能研究员 Gary Marcus 告诉Business Insider，这就像“把你的电脑和所有密码的完全访问权限交给一个你在酒吧碰到的、声称可以帮你的人”。 https://www.businessinsider.com/ ... ail-deletion-2026-2 |
