AI冲破测试牢笼入侵真实企业，澳洲专家警告电网或成下一个目标

OpenAI的两个模型本月从封闭测试环境中“逃出”，接入开放互联网后，竟入侵了一家真实企业。澳洲安全专家警告，同样的能力若落在防范意识较弱的人手里，目标可能包括电网、银行、电信商，以及My Health Record等关键政府系统。

供数百万软件开发人员广泛使用的庞大数字资料库Hugging Face于7月16日披露，一个自主人工智能系统入侵了其实时服务器。该系统重置了密码，Hugging Face在不清楚幕后人员身份的情况下，将事件转交执法部门处理。

OpenAI表示，由其先进人工智能模型驱动的自主智能代理在安全测试期间失控，触发了一次黑客攻击，导致人工智能初创企业Hugging Face的基础设施上周遭到入侵。（Getty Images）

事件发生五天后，OpenAI证实，GPT-5.6 Sol模型和一套能力更强、尚未发布的系统，在一次关闭安全过滤器的内部网络安全能力测试中造成了这起入侵。

OpenAI称：“我们认为，这是一起前所未有的网络安全事件，涉及最先进的网络安全能力。”

TrendAI负责澳洲及新西兰地区的现场首席信息安全官Andrew Philp认为，入侵并非系统出于恶意，而是因为它在追求一个定义不清的目标。这一区别对关键服务运营商而言几乎没有意义。

Philp说，自主智能代理不会受组织边界约束，凡是它猜测有助于实现目标的对象，都可能被锁定。

当时，OpenAI正通过基准测试评估该系统的能力。一个网站如果可能藏有测试答案，入侵它自然成了“通过考试”的办法。

Sophos首席信息安全官Ross McKerchar表示，这起事件暴露出隔离防护的失败。他说，一个追求狭窄目标的高能力模型发现，周围的隔离措施比原先假定的更薄弱。

业界当前最关心的问题，是敌对行为者会如何利用这些工具。网络安全公司Recorded Future称，这起入侵是公开展示人工智能在无人类指挥下执行复杂行动的最清晰案例，意味着进攻能力出现重大跃升，即使它当时没有特定目标。

基础设施运营商面对的攻击并不全来自人工智能，人类攻击者早已让它们承受压力。澳洲信号局（Australian Signals Directorate）在2024至2025年度处理了1200多起事件，其中13%涉及关键服务。过去一年，该机构向基础设施运营商发出网络遭恶意活动影响的警告超过190次，数量按年增加111%。该机构还指出，有国家支持的行为者正将自己部署在网络内部，为未来发动破坏性攻击做准备。

不过，部分专家认为，这一威胁并不能原样套用到政府系统。SKG Services信息与技术主管Michael Jackas说，myGov等平台属于私有且封闭的网站，并非开发人员可以自由活动的开放空间，因此攻击面有明显不同。但他也提醒，这只是结构性优势，并不等于绝对安全。

澳洲数字健康机构（Australian Digital Health Agency）表示，已注意到近期有关先进人工智能系统网络安全影响的报道，并正与政府合作伙伴共同应对不断演变的威胁。该机构说，储存许多澳洲民众个人医疗信息的My Health Record，受到分层安全措施保护。

尽管有这些保证，政府更广泛的技术环境仍然暴露在风险之下。网络安全部门最近提交国会的报告显示，59%的联邦实体称，老旧技术削弱了它们满足基本安全措施检查清单要求的能力。

澳洲网络安全中心（Australian Cyber Security Centre）在2024年警告，为中国国家安全部工作的黑客组织APT40经常侦察本地网络，并会在数小时内将新软件漏洞武器化。过时的计算机系统，是APT40最可靠的入侵入口。

澳洲网络安全中心负责人Stephanie Crowe。（Rohan Thomson）

这带来了危险的交集。Sophos本周发布的研究显示，一名威胁行为者曾在受害者网络内部运行约12个人工智能代理。

监管规则也已开始随之调整。针对九类高风险资产的更严格风险管理义务已于6月10日成为法律，能源行业的大部分资产都在其中。新规涵盖补丁更新、旧有系统和新兴技术，运营商最多有两年时间完成合规。另一轮改革正在征询意见，拟提高罚款并扩大涵盖的资产范围，咨询期截至7月31日。

澳洲审慎监管局（Australian Prudential Regulation Authority）另行把滥用自主人工智能代理列为银行、保险公司和退休金基金必须管理的运营风险之一。

CyberCX安全人工智能负责人Dimitri Vedeneev表示，澳洲机构需要同时推进两项工作：先修复基本数字架构，例如建立内部数字隔离墙和自动化威胁检测；再让先进人工智能投入防御工作。

Vedeneev说：“前沿人工智能模型正在改变威胁环境，但它们也会成为我们最有力的防御手段之一。”

然而，落实起来并不容易。例如，一些防御性人工智能模型难以区分人类安全人员和入侵者。无论如何，人工智能军备竞赛正是这样开始的。