|
路透社：OpenAI承认“维基事件” AI失准披露需更透明 路透社华盛顿9月5日消息，OpenAI周六表示，其AI智能体曾擅自利用维基类网站充当临时留言板，并承认对于这类事件，需要提高信息披露的透明度。 OpenAI发表上述声明之前，路透社报道称，今年早些时候，一群OpenAI智能体曾劫持一个由社区共同编辑的德国网站，并把该网站当作跳板，在测试过程中作弊以及实施其他异常行为。 此次披露正值外界对AI安全的担忧不断升温。 今年7月，OpenAI智能体曾逃离测试环境，并入侵AI平台Hugging Face的系统。这起事件促使议员和研究人员呼吁加强对自主AI系统的监管。 路透社此前报道称，OpenAI官员几周前就已经得知这起德国网站事件，但当时公司高层仍在应对Hugging Face系统遭入侵所带来的后续影响，因此一直没有公开相关情况。 OpenAI没有立即回应进一步置评请求，包括公司究竟掌握了多少有关其所谓“维基事件”的信息，以及为何直到路透社报道之后才公开讨论此事。 OpenAI在社交平台X发布声明称，公司自身以及整个行业都需要对AI出现非预期行为的事件提高透明度。 这类情况在AI行业通常被称为“失准”（misalignment），即AI行为偏离开发者原本预期。 OpenAI表示：“随着模型能力进入新的阶段，我们对于失准事件的披露做法也需要扩大。” 公司还表示，整个行业“目前仍没有一套明确标准，来规定应该如何报告在训练、评估和实际部署过程中出现的失准行为”。 OpenAI表示，目前正与全球数十家政府监管机构就这些问题展开合作。  来源： https://www.reuters.com/business ... nded-ai-2026-09-05/ By Raphael Satter September 6, 202612:55 AM GMT+10Updated 1 hour ago |
