OpenAI测试失控引发网络攻击，AI自主入侵敲响安全警钟

本文转载自澳大利亚广播公司ABC中文，仅代表原出处和原作者观点，仅供参考阅读，不代表本网态度和立场。

人工智能大模型OpenAI表示，在一次安全测试中，由其先进人工智能模型驱动的一款自主智能代理失去控制，突破隔离环境后接入互联网，并侵入人工智能初创公司Hugging Face，以完成其测试目标。

OpenAI称，当时公司正在一个受控环境中测试部分最先进模型的能力，但该智能代理突破了安全隔离，为完成测试目标实施了网络攻击。

这一事件表明，AI能力不断增强，已开始带来网络安全专家长期担忧的安全风险，即便是全球领先的AI开发商，也可能因模型能够利用的漏洞而措手不及。

OpenAI在一篇博客文章中将此次事件称为“一起前所未有的网络安全事件，涉及最先进的网络攻击能力”，并表示正在加强相关安全防护措施。

事件还引发外界关注。总部位于纽约的Hugging Face表示，公司最终使用了一款开源中国AI模型遏制了此次攻击，因为领先的美国AI模型无法区分防御者和攻击者，拒绝处理分析攻击所需的数据。

Hugging Face上周在博客中表示，公司使用智谱AI（Zhipu AI）的GLM-5.2模型对事件进行了分析，这也确保攻击者数据及相关凭证始终保留在公司自身系统内。

近期，智谱AI的GLM-5.2以及北京月之暗面（Moonshot）开发的Kimi K3在硅谷受到关注。这两款模型以更低成本实现了接近美国顶尖AI模型的能力，同时没有美国同类产品在网络安全等任务上设置的使用限制。

ChatGPT的母公司证实，此次安全漏洞事件发生在上周。(Reuters: Dado Ruvic)

Hugging Face联合创始人托马斯·沃尔夫（Thomas Wolf）在社交平台X上表示，当一个前沿AI模型正在攻击并在企业基础设施内部横向移动时，防御者需要在数小时甚至数分钟内获得接近前沿水平的AI工具，而不是通过封闭且审核严格的模型访问计划申请使用权限。

Hugging Face是一个托管开源大语言模型和数据集的平台。该公司上周表示，这次入侵“与我们此前处理过的任何事件都不同”，整个攻击过程“从头到尾都由一个自主AI代理系统驱动”。

OpenAI披露，此次攻击由其先进模型造成，尽管这些模型当时被置于所谓“高度隔离环境”中进行测试。这一消息预计将进一步加剧外界对前沿AI模型能力及潜在风险的担忧。

美国得州民主党联邦众议员格雷格·卡萨尔（Greg Casar）表示，这起事件令人担忧。

他在声明中称，人工智能发展速度极快，却缺乏真正有效的监管保障公众安全，并呼吁实施强制性的独立安全测试、强制披露安全事件，以及加强国际合作，“避免人类遭遇灾难性后果”。

本文转载自澳大利亚广播公司ABC中文，仅代表原出处和原作者观点，仅供参考阅读，不代表本网态度和立场。