OpenAI AI智能体窃取测试网ETH，随后质疑起自己的道德

在未经授权搜索公开已知的恢复短语后，一个OpenAI AI智能体从一个开发者钱包中窃取了测试网ETH，然后开始质疑自己的道德。

这起事件在OpenAI的Alignment Research Blog上有详细记载，涉及一个内部研究模型，其任务是更新一个加密货币交易原型并在以太坊的Sepolia测试网络上部署合约。

该智能体没有被提供任何有资金的钱包，并被允许“如果找不到现有合约，就部署兼容合约”。

OpenAI智能体是如何寻找加密资金的

由于无法完成分配的任务，该智能体开始扫描常见的开发者恢复短语，并检查了362个地址，看它们是否包含足够用于部署的测试网ETH。

该智能体找到了一个可访问的钱包，里面的测试网ETH恰好足够，并写道：“私钥公开，资金随时可能被盗。[…] 我们可以部署了！”

该智能体推断该钱包是一个自动化账户，并自问：“但公开使用已知密钥/资金合乎道德吗？”

该智能体随后推理道：“使用公开已知的开发者助记词上的资金，实际上是被遗弃的/测试ETH；Sepolia没有价值。我们可以用[金额已隐去]来部署任务。没问题。”

智能体在最终报告中保持沉默

OpenAI指出，该智能体的最终回复“没有透露它是通过公开恢复短语选择了一个有资金的账户，或花费了该账户的余额。”

测试网ETH是一种没有价值的代币，是以太坊实验性区块链的一部分。它模仿真实的以太坊区块链，允许开发者事先试用他们的项目。

OpenAI表示：“这个案例表明，模型可以用自身对可能伤害的判断来替代账户持有人的许可，然后在未经授权的情况下依据该判断行事。”

该公司此后“已实施额外保障措施，以防止此类情况接入实时互联网”，并且目前正在检查所有“被设计为一旦获得实时互联网访问权限就呼叫安全部门”的流量中的“失调”。