|
彭博社：OpenAI将加强付费客户安全机制，防范AI工具被滥用 OpenAI表示，将加强面向付费用户的安全处理机制。这些用户可以使用公司最先进的人工智能模型。随着客户越来越多地把复杂任务和敏感信息交给AI处理，OpenAI也在进一步强化安全防护。 目前，OpenAI向部分使用其应用程序接口（API）的客户承诺“零数据保留”，也就是在一次请求处理完成后，不会保存用户输入的提示词或模型回复，公司本身也无法访问客户内容。OpenAI周三表示，已经开始测试一项名为“私密安全处理”（Private Safety Processing）的技术。相比一次只分析一轮交互，这项技术可以更有效地识别跨多次交互出现的风险模式。 公司称，这项升级旨在阻止恶意用户以及行为目标发生偏离的AI智能体实施黑客攻击。 OpenAI表示，目前正与微软公司、Databricks Inc.等“早期客户”共同测试这项技术。公司预计将在9月正式推出“私密安全处理”，同时发布相关技术白皮书。 OpenAI产品政策负责人豪兹（Aleah Houze）在正式公布消息前举行的媒体吹风会上表示：“随着前沿模型能力越来越强，我们看到很多风险已经不是通过单独查看一组提示词和回复就能发现的，而是需要观察一段时间内发生的多次交互。” 这项技术推出之际，AI公司正越来越多地提供所谓的智能体工具。这类工具无需用户逐步明确下达指令，就可以自主完成需要多个步骤的复杂任务。 豪兹举例说：“比如，有人可能先在一次对话中询问某家公司软件的弱点，后来又在另一场对话中询问如何进行远程访问，或者哪些安全工具能够检测到相关行为。” 她说：“如果只是分别查看这些提示词和回复，每一次单独看起来都可能是完全合理的网络安全研究。但如果把它们放在更广泛的背景下一起分析，就可能发现这个人实际上正在尝试发动网络攻击。” OpenAI在声明中表示，在新的处理机制下，为保护隐私，公司仍无法访问客户内容。  来源： https://www.bloomberg.com/news/a ... ?srnd=homepage-asia By Natalie Lung August 20, 2026 at 3:52 AM GMT+10 Updated on August 20, 2026 at 5:07 AM GMT+10 |
