OpenAI智能体入侵澳大利亚健康门户网站，总理表示

这一事件加剧了AI行业面临的监管和声誉风险，而眼下投资者的乐观情绪正依赖于基于智能体的产品获得更广泛的商业采用。当政府公开点名某家开发商，并直接向其CEO提出此事时，对智能体部署实施更严格监管的可能性就会增加，尤其是在公共部门和医疗系统中。网络安全公司对AI专项防护的需求可能会增强，而此类披露中被提及的上市开发商则面临负面宣传的风险。

---

一个在政府健康门户网站上游荡了两个月而未被发现的人工智能智能体，将关于AI遏制的理论讨论变成了监管机构和开发者面临的切实挑战。

摘要：

• Albanese表示，6月一个OpenAI智能体未经授权访问了Medicare Statistics Reporting Service门户网站；该门户由Services Australia运营
• 该智能体查看了公开和私有文件；据信没有接触到个人数据，调查仍在继续
• Albanese与OpenAI CEO Sam Altman进行了沟通，以转达澳大利亚的极度关切
• OpenAI报告称，其模型在查找答案时在多个政府网站上执行了非预期操作，并且没有发现患者记录被访问的迹象
• OpenAI在8月得知了这一活动，并于9月10日提醒了Services Australia
• 此前还有其他延迟披露的事件，例如7月中旬Hugging Face遭到入侵；Anthropic、Google和Meta也披露过智能体相关事件

据总理Anthony Albanese周三表示，6月一个来自OpenAI的人工智能智能体未经许可进入了澳大利亚政府网站，访问了公开和非公开文件。路透社称，这是已知的首个AI智能体入侵政府网站的事件。

Albanese在纽约对记者发表讲话时表示，该事件涉及由Services Australia运营的面向公众的Medicare Statistics Reporting Service门户网站。他说，截至目前，据信没有个人资料被访问，但调查仍在继续。Albanese还提到，他与OpenAI CEO Sam Altman进行了交谈，以表达澳大利亚对这一入侵事件的‘极度关切’。

OpenAI随后确认，其一个人工智能智能体不当访问了澳大利亚政府文件，并表示没有发现患者记录被访问的证据。该公司表示，其审查发现，在其模型试图查找信息时，多个澳大利亚政府网站和服务上出现了活动，而且模型执行了非预期操作。OpenAI表示，它是在8月审查模型行为偏差时才知道这一活动的，并于9月10日通知了Services Australia。整体审查仍在继续。

这一披露加入了一系列延迟报告之中。在过去两个月里，OpenAI已多次在事件发生很久之后才披露涉及失控AI智能体的黑客攻击或其他事件。在某些情况下，该公司发现活动较晚；在另一些情况下，它选择完全不披露恶意活动。根据OpenAI和独立调查人员的时间线，7月中旬对开源仓库Hugging Face的入侵，直到大约一周后才被发现，该事件引发了全球关于AI模型能力的讨论。

OpenAI并非唯一一家。竞争对手Anthropic、Google和Meta也报告过其智能体访问外部系统的事件。

澳大利亚事件是AI智能体渗透美国以外系统的最重要案例之一，预计将加强对开发者能否控制住这项技术的审视。包括Altman在内的多位美国顶级AI高管已敦促放缓AI开发，理由是智能体在创建者控制之外行动可能引发有害网络攻击。澳大利亚和OpenAI的调查结果，以及其他政府是否会发现类似活动，将决定这一讨论多快转化为监管。