当AI代理造成代价高昂的预订错误时

想象一下，你让AI助理预订一张去韩国的商务舱机票。系统找到了一个符合预算的低价选项。唯一的问题是：它选错了韩国。

Bakkt首席商务官Daniel Ishag在一次小组讨论中分享了这一假设的版本。

“我怎么知道代理不会给我订一张去朝鲜而不是韩国的机票？”他问道。

这个例子有意夸张。但它突出了一个真实挑战：当软件被授予支出权限时，遵守预算并不能保证任务被正确理解。

一旦资金被转移，就必须有人来处理错误。

预算只是开始

软件代理可能误解指令。恶意行为者可能将隐藏指令注入看似无害的数据中。未经授权的一方可能控制其钱包。

这些场景都会导致同样的直接结果——一笔所有者从未授权的支付——但每个场景都引发了关于责任的不同问题。

BeInCrypto发布的《2026年AI代理支付状况》报告发现，19个被审查的产品和工作流程中有14个可以在预先批准的权限内运行。这一观察反映了已记录的功能，而非表明安全措施不可破解的证据。

另外，研究中提到的两起事件导致281,200美元在被追回前已转入攻击者账户。有害指令到达了已充值的钱包，而区块链本身保持完好。

比特币日本公司首席执行官Phillip Lord预计代理将引入额外风险。他同样直接地指出使用人类的替代方案。

“但加密货币本身就已经相当高风险了，对吧？”他说。“人类并不那么擅长，对吧？”

人类经常点击有害链接并依赖有缺陷的信息。将任务外包引入另一个困境：当软件代表你行事并出错时，谁应当承担责任？

持续构建的压力

在Ishag看来，竞争不仅限于争夺客户的公司。各国正在争夺AI开发所需的电力、计算资源和半导体。

“这是国与国之间的竞争，”Bakkt的Daniel Ishag说。

他担心加速开发的紧迫性可能会使安全被边缘化。

这为金融自动化制造了一个不安的环境：竞争激励着扩大软件能力，而用户需要确保系统可以被停止或他们能够挽回损失。

阅读承诺，再看条款

区块链安全公司Sailo Technologies联合创始人兼首席执行官Ehud Tal将赔偿作为其公司策略的一部分来介绍。

“所以我们首次为客户提供退款保证。”

责任如何分配的一个具体例子出现在Stripe的Link钱包中。其当前的代理条款规定，用户（在用户与Stripe之间）对由关联代理发起的交易负责——即使这些交易是无意的，或由漏洞、幻觉或误解指令导致。

条款对Stripe自身的技术故障或错误作了例外处理。

这种合同立场并没有解决每个消费者的法定权利。但它确实表明，允许使用支付服务不应被解释为保证提供者会覆盖代理所犯的错误。

授权一笔200美元的支出告诉支付提供者关于金额的信息。它可能传递的信息远少于你意图中的产品、收款方或条件。

一旦交易出错，这种差异可能成为争议的核心问题。

目前存在简化此类争议的努力。谷歌的代理支付协议描述了将用户指令、已批准的购买和支付关联起来的签名记录。这些记录有助于确定授权的内容，但它们本身并不保证退款。

现有义务也依然存在。英国金融行为监管局表示，受监管公司在使用AI时仍对消费者结果负责，并警告称人工审查可能退化为勾选框例行公事。

因此，对于向代理提供资金的任何人来说，相关问题都很具体。它可以执行哪些购买？什么记录保存了你的指令？你能阻止进一步支出吗？谁来处理你有异议的支付？

“我们必须建立人们可以信任的公司，”比特币日本公司的Phillip Lord说。

对于用户而言，这种信任将在交易后受到考验：当代理出错时，必须有人决定谁获得退款。