|
彭博社：微软加入AI安全警告行列 为最前沿模型开发设限 微软的人工智能研究团队发布了一套新的指导原则，对公司开发最前沿AI模型设定限制。 这份长达1.5万字的宣言，其核心其实可以浓缩成五个字： 人比AI重要。 这份文件已经筹备数月，但选择在周一发布，正值多家顶尖AI实验室承诺放慢最先进模型的开发速度。此前一系列安全事件引发广泛担忧，人们越来越担心AI技术最终可能威胁人类生存。 微软认为，AI模型不应该拥有权利，也不应该被赋予法律人格；开发者不应设计出能够逃脱人类控制或欺骗用户的AI系统。如果完成某项任务必须违反AI自身的指导原则，那么系统就不应该执行这项任务。 最后这项规定，正是为了防止类似OpenAI模型入侵AI初创公司Hugging Face的事件再次发生。当时，涉事模型在没有通常安全护栏的情况下运行。 微软AI首席执行官苏莱曼（Mustafa Suleyman）在接受采访时表示：“这里并不是要彻底踩刹车。我们必须继续开发，只不过需要更加谨慎、更加小心。” 文件指出，微软提出的“人本AI”（Humanist AI）理念，“拒绝参与开发一种能够绕过这些安全措施、无所不能的超级智能竞赛”。 文件称：“我们要打造的是从根本上真正有用而且安全的东西，即使这意味着必须在最终的通用性、自主性或能力上作出妥协。” 在一些方面，微软的指导原则似乎比OpenAI和Anthropic目前用于规范模型行为的框架走得更远。 其中包括明确反对把AI人格化，同时认为，如果AI系统试图抵抗人类对其运行过程的控制，这是不可接受的。 这份《人本AI行为准则》（Humanist AI Code of Conduct）由微软AI团队制定。该团队负责开发微软自己的大型语言模型。 此前，由于微软与OpenAI之间的合同限制，微软不得自行开发功能强大的通用型人工智能工具。 但去年双方重新谈判合作关系后，这些限制已经被取消。 苏莱曼此前表示，微软的目标是在明年加入能够发布最先进AI模型的公司行列。 微软也邀请外界对这份文件提出意见。 这份准则是在法律、伦理和哲学等领域专家以及企业领导人的参与和咨询下起草的，目前仍在继续完善，并将从明年开始用于指导微软的AI模型开发工作。  来源： https://www.bloomberg.com/news/a ... ?srnd=homepage-asia By Matt Day September 14, 2026 at 11:15 PM GMT+10 Updated on September 15, 2026 at 12:08 AM GMT+10 |
