當AI代理造成昂貴的訂位錯誤時

想像你叫一個AI助理幫你訂一張去韓國的商務艙機票。系統找到一個符合你預算的低價選項。唯一的問題是？它選錯了韓國。

Bakkt的首席商務長Daniel Ishag在一場座談會中分享了這個假設情境的某個版本。

「我怎麼知道這個代理不會幫我訂一張飛往北韓而非南韓的機票？」他問道。

這個例子刻意誇大。然而，它凸顯了當軟體被授予支付權限時所面臨的真實挑戰。遵守預算並不保證任務被正確理解。

一旦資金被轉移，就必須有人來處理這個錯誤。

預算只是開端

一個軟體代理可能誤解指令。一個惡意行為者可能將隱藏指令注入看似無害的資料中。未經授權的一方可能取得其錢包的控制權。

這些情境都會導致相同的立即結果——一筆所有者從未授權的付款——但每一種都引發了關於責任歸屬的不同問題。

BeInCrypto的《2026年AI代理支付狀況》報告發現，在19個受檢產品與工作流程中，有14個可以在預先批准的權限範圍內運作。這項觀察反映的是已記錄的功能，而非安全措施無法被破解的證據。

另外，研究中提到的兩起事件導致了281,200美元在資金被追回前轉移給攻擊者。有害指令抵達了有資金注資的錢包，而區塊鏈本身仍完好無損。

Bitcoin Japan Corporation的執行長Phillip Lord預期代理將引入額外風險。他對於涉及人類的另一種選擇也同樣直言不諱。

「但加密貨幣本身已經相當危險了，對吧？」他說。「人類也沒那麼可靠，對吧？」

人類經常點擊有害連結並依賴有缺陷的資訊。將任務外包則帶來了另一個困境：當軟體代你行事卻出錯時，責任在誰？

持續推進的壓力

在Ishag看來，競爭不僅限於爭取客戶的公司。國家之間也在爭奪AI發展所需的電力、運算資源和半導體。

「這是主權國家對抗主權國家，」來自Bakkt的Daniel Ishag說道。

他擔心加速發展的迫切性可能會讓安全問題被擱置一旁。

這為金融自動化創造了一個不穩定的環境：競爭促使軟體功能不斷擴展，而使用者則需要保證系統可以被停止，或者他們能夠挽回損失。

閱讀承諾，再讀條款

區塊鏈安全公司Sailo Technologies的共同創辦人兼執行長Ehud Tal將退款列為其公司策略的一部分。

「所以我們首次為客戶提供退款保證。」

Stripe的Link錢包提供了一個責任如何分配的具體例子。其目前的代理條款規定，使用者需對連接代理所發起的交易負責（在使用者與Stripe之間的關係中），即使這些交易是無意的，或是由於錯誤、幻覺或誤解指令所導致。

該條款為Stripe自身的技術故障或失誤設定了例外。

這種合約立場並不能解決每個消費者的法定權利。但它確實表明，授權使用一項支付服務不應被解讀為提供者會為代理的錯誤買單的保證。

授權一筆200美元的支出，能告訴支付提供者關於金額的資訊。但它可能遠不能傳達你所期望的產品、收款方或條件。

一旦交易出錯，這種落差就可能成為爭議的核心問題。

目前已有努力來簡化這類糾紛。Google的代理支付協議描述了連結使用者指令、已核准購買和付款的簽名記錄。這些記錄有助於確定什麼是已授權的，但它們本身並不保證退款。

現有的義務也仍然存在。英國金融行為監理總署表示，受監管的公司在使用AI時仍需對消費者結果負責，並警告說，人工審查可能淪為形式上的例行公事。

因此，對於任何向代理提供資金的人來說，相關的問題是具體的：它能執行哪些購買？什麼記錄保存了你的指示？你能停止進一步的支出嗎？以及誰來處理你提出異議的付款？

「我們必須建立人們可以信任的公司，」來自Bitcoin Japan Corporation的Phillip Lord說道。

對使用者而言，這種信任將在交易後受到考驗：當代理出錯時，必須有人來決定誰能獲得退款。