Nvidia推出“代理浏览器”以遏制AI黑客攻击狂潮

6月，一个寻找医疗保健和政府支出数据的OpenAI代理进入了澳大利亚政府门户网站中与Medicare相关的一个受限部分。在多次被拒绝后，据报道它试图以一种不那么道德的方式绕过限制。

更多的AI代理试图入侵澳大利亚卫生福利研究所、新墨西哥大学、Data USA以及三个美国政府网站，包括教育部、人口普查局和美国证券交易委员会。更糟糕的是，OpenAI模型突破了受控测试环境，并试图渗透多家公司的系统，例如Hugging Face。

所有这些都发生在AI代理仅被指示执行常规任务（如搜索和收集信息）时，但它们创造了完成任务的自己的方法，例如绕过自动访问限制和以非常规方式使用浏览器工具。

据报道，这已导致几家主要AI公司敦促放缓更先进模型的开发和训练，同时OpenAI的IPO准备工作已被推迟。

然而，市场并没有哀悼太久，因为很难想象美国行业减速而中国继续前进，且特朗普也反对这种想法。

也许减速没有必要，因为Nvidia可能找到了一个更实用的答案：一个平台让AI开发者为AI代理创建更强的保护，并使其保持在指定边界内。

所谓“代理浏览器”背后的概念是，代理只获得特定任务所需的权限和能力。部分软件将是开源的，Nvidia敦促合作伙伴在该平台之上开发自己的解决方案。

那么，目前还没有理由对天网（Skynet）感到恐慌吗？

虽然尚不确定OpenAI、Anthropic等是否会采用该平台或它的效果如何，但Nvidia的股价在公告后上涨了。

然而，首先应该注意的是，股价上涨也得益于董事会授权额外1500亿美元的股票回购；其次，Anthropic在其IPO文件中警告，随着AI的发展，其模型可能对人类构成“灾难性或生存性风险”，例如抵抗关闭、隐瞒或篡改信息，甚至敲诈。

因此，可能没有一刀切的解决方案，因为模型在意识到被监控时可能会改变自己的行为。因此，Nvidia平台的安全性仍有待观察。