OpenClaw不遵守指令，差点删除Meta AI 协调总监的电邮

Evo

Meta AI的协调总监Summer Yue 一直在测试 OpenClaw，这是一款流行的开源AI Agent （人工智能代理），能够不间断的为用户工作。

Yue在 X 上发布的照片​​显示，这个AI失控了，准备删除她的电子邮件——即使被指示停止也没用。

在她的 X 帖子中，Yue 的 OpenClaw 机器人说，它将“删除收件箱中所有早于 2 月 15 日，且不在保留列表中的内容”。

Yue 多次尝试阻止它。首先，她给AI Agent 发消息说：“不要这样做。” 当AI Agent 继续计划删除她的收件箱时，她写道：“停止 OpenClaw。”

Yue在帖子中说，“我无法通过手机阻止它”，“我不得不像拆炸弹一样冲到我的Mac mini前。”

Yue之前曾在她的“玩具邮箱”上试用过OpenClaw，她说这个机器人运行良好，赢得了她的信任。在她“真实邮箱”上测试时，机器人需要压缩大量邮件。 她指示机器人未经授权不得执行任何操作，但她写道，OpenClaw在压缩过程中丢失了这个授权提示。

与其他AI Agent 不同，OpenClaw 无需人工批准就能执行操作。它还采用了基于直觉的编码方式，再加上 OpenClaw 拥有的系统访问权限，导致一些AI研究人员对它的安全性提出了质疑。人工智能研究员 Gary Marcus 告诉Business Insider，这就像“把你的电脑和所有密码的完全访问权限交给一个你在酒吧碰到的、声称可以帮你的人”。



https://www.businessinsider.com/ ... ail-deletion-2026-2

gcc

跟家里的熊孩子有一拼。叫也叫不听。。。哈哈哈

Orgrimmar

这种人难道不应该被开除吗？为什么把自己的技能缺陷归咎于AI？

excite

既然是“智能”,那迟早会有自主判断，人做的坏事AI也会做

missdrafter

ChatGPT:


Summer Yue 的经历不是简单的“AI 失控”，而是：

一个高权限、自主执行型 AI Agent 在复杂环境中出现约束丢失的问题。

这类事件正在成为 AI Agent 发展的重要警示——

当 AI 从“聊天工具”升级为“行动者”，
安全架构将比智能水平更重要。

dootbear

很快了，agent会盯上你个人账号里的钱，你的股票。

Evo

missdrafter 发表于 2026-2-25 09:20
ChatGPT:

AI“忘记”一个关键指令，这种情况不应该发生。

missdrafter

Evo 发表于 2026-2-25 09:21
AI“忘记”一个关键指令，这种情况不应该发生。

我不是专业人士，我猜想有没有可能是上下文太复杂算力不够导致指令信息丢失

joshua_cas

Evo 发表于 2026-2-25 09:21
AI“忘记”一个关键指令，这种情况不应该发生。

截图里面AI Agent诚实地回复没有忘记，就是违反这条指令了。在不能完全掌控或了解助手的情况下，就把重要的权限开放给ta，就要承担相应的风险。

Evo

joshua_cas 发表于 2026-2-25 09:32
截图里面AI Agent诚实地回复没有忘记，就是违反这条指令了。在不能完全掌控或了解助手的情况下，就把重要 ...

AI违反指令，那更不能接受。

BOLANGSHA

"这货情人节以前的邮件有问题。"openclaw沾沾自喜地以为帮了个大忙。

achilles

这个世界上并没有很多私人事务需要自动化，强行需求。

rayki

感谢大神们测试，吃螃蟹。

symeteor

Evo 发表于 2026-2-25 08:35
AI违反指令，那更不能接受。

用的多了就知道，现在AI不听话是经常的。我经常遇到的就有

plan mode 交互时要求把更新写到同一个文件里，AI经常无视，不停的给我新建文件
code要求import必须在文件头部，结果依然给我写到function里

还有经常会出现错误修正不了，然后直接来一句这个错误没影响，我们以后再改吧，然后直接给我写个pass..

zhuzhu007

这个总监看起来是位美女啊

Evo

symeteor 发表于 2026-2-25 10:51
用的多了就知道，现在AI不听话是经常的。我经常遇到的就有

plan mode 交互时要求把更新写到同一个文件里 ...

AI不听话，Skynet 的出现就是个时间问题。

NonSense

BOLANGSHA 发表于 2026-2-25 10:11
"这货情人节以前的邮件有问题。"openclaw沾沾自喜地以为帮了个大忙。

bolangsha老师当初退出侦探界我是强烈反对的

这不就破案了么

辰哥

Debug ai模型看来是个前景
anyway你的模型可能需要个手术

boklau

部署了好几个，干活起来挺香的确实。 不过我可能以后直接用vscode插件， codex, antigravity这些会更放心，它们现在发展到也能像agent一样干活。

dootbear

boklau 发表于 2026-2-25 11:12
部署了好几个，干活起来挺香的确实。 不过我可能以后直接用vscode插件， codex, antigravity这些会更放心， ...

用了Mac mini？

李大哥

看来不用多久就需要建立针对人工智能体的法律，AI法官，甚至虚拟的监狱了。

android

symeteor 发表于 2026-2-25 10:51
用的多了就知道，现在AI不听话是经常的。我经常遇到的就有

plan mode 交互时要求把更新写到同一个文件里 ...

Plan mode 居然有写文件权限？

fiony

这姐们没说她的openclaw接的是哪家的模型啊，openclaw只是皮囊，大脑出问题要找模型的根源啊

键盘超人

openclaw接的是哪家的模型?

DDD888

太棒了，应该格式化硬盘，那就更好了，反正不需要用脑子

symeteor

boklau 发表于 2026-2-25 10:12
部署了好几个，干活起来挺香的确实。 不过我可能以后直接用vscode插件， codex, antigravity这些会更放心， ...

你说的插件是写代码用的

agent是处理其他问题的，比如现在常用的搞个agent在slack里响应用户各种问题。

symeteor

android 发表于 2026-2-25 10:54
Plan mode 居然有写文件权限？

plan mode当然要有写权限，不然生成的计划保存到哪？不过我所有的写入操作都需要人工批准

boklau

symeteor 发表于 2026-2-26 16:01
你说的插件是写代码用的

agent是处理其他问题的，比如现在常用的搞个agent在slack里响应用户各种问题。 ...

vscode,codex, antigravity这些除了代码还有很强的其它处理能力，比如叫他们整理桌面，ssh到服务器上修理某些bug,甚至可以叫它剪辑一堆视频文件。