AIエージェントが高額な予約ミスをしたとき

AIアシスタントに韓国行きのビジネスクラスのチケットを予約するよう指示する場面を想像してみてください。システムは予算に合う低コストのオプションを見つけます。ただ一つ問題が？それは間違った韓国を選択したことです。

Bakktの最高商業責任者であるDaniel Ishag氏は、パネルディスカッションの中でこの仮定の話の一例を共有した。

「エージェントが南朝鮮ではなく北朝鮮へのフライトを予約しないとどうしてわかるのか？」と彼は問いかける。

この例え話は意図的に誇張されている。しかし、ソフトウェアに支出権限が与えられた場合の実際の課題を浮き彫りにしている。予算を守ることは、タスクが正しく理解されていることを保証するものではない。

資金が送金されるとすぐに、誰かがエラーに対処しなければならない。

予算は始まりに過ぎない

ソフトウェアエージェントはコマンドを誤解釈する可能性がある。悪意のある行為者は一見無害なデータ内に隠された命令を注入する可能性がある。許可されていない第三者がそのウォレットの制御権を取得する可能性がある。

これらのシナリオはすべて、所有者が許可したことのない支払いという同じ直接的な結果をもたらすが、それぞれが責任に関する異なる疑問を提起する。

BeInCryptoの「The State of AI Agent Payments 2026」レポートによると、調査対象となった19の製品とワークフローのうち14が事前承認された許可の範囲内で動作可能であることが判明した。この観察結果は、防御策が破られないという証拠ではなく、文書化された機能を反映している。

別途、同調査で取り上げられた2つのインシデントでは、資金が回収される前に攻撃者に281,200ドルが送金された。有害なコマンドが資金入りのウォレットに到達した一方で、ブロックチェーン自体は無傷のままであった。

Bitcoin Japan CorporationのCEOであるPhillip Lord氏は、エージェントが新たなリスクをもたらすと予想している。彼は人間が関わる代替案についても同様に率直である。

「しかし、暗号資産はすでにかなり危険ですよね？」と彼は言う。「人間はそれほど優れていないですよね？」

人間は定期的に有害なリンクをクリックし、欠陥のある情報に依存している。タスクを外部委託することで別のジレンマが生じる：ソフトウェアがあなたの代わりに行動し、誤った場合、誰に責任があるのか？

構築を続ける圧力

Ishag氏の見解では、競争は顧客を求める企業に限らない。各国はAI開発に必要な電力、計算リソース、半導体を奪い合っている。

「それは国家対国家です」とBakktのDaniel Ishag氏は言う。

彼は開発を加速させる緊急性がセキュリティを軽視する可能性があると懸念している。

これは金融自動化にとって不安定な環境を生み出す：競争はソフトウェアの機能拡張を促進する一方、ユーザーはシステムを停止できることや損失を回収できるという保証を必要としている。

約束を読み、その後に利用規約を読む

ブロックチェーンセキュリティ企業Sailo Technologiesの共同創業者兼CEOであるEhud Tal氏は、自社の戦略の一部として返金を概説している。

「そこで私たちは初めて顧客に返金保証を提供しています。」

責任がどのように配分されるかの具体的な例は、StripeのLinkウォレットに見られる。現在のエージェント利用規約では、ユーザーはStripeとの間で、接続されたエージェントによって開始された取引について責任を負うと規定されている。たとえそれらの取引が意図しないものであったり、バグ、幻覚（ハルシネーション）、または誤解釈されたコマンドに起因する場合でも同様である。

この規約は、Stripe自身の技術的過失またはミスについては例外を設けている。

この契約上の立場は、すべての消費者の法的権利を解決するものではない。しかし、支払いサービスの使用許可を与えることは、プロバイダーがエージェントの過ちを補償する保証として解釈されるべきではないことを示している。

200ドルの支出を承認することは、支払いプロバイダーに金額について何かを伝える。しかし、意図した製品、受取人、条件についてははるかに少ない情報しか伝わらない可能性がある。

取引がうまくいかなかった場合、その不一致が紛争の中心的な問題となる可能性がある。

このような不一致を合理化する取り組みは存在する。GoogleのAgent Payments Protocolは、ユーザーの指示、承認された購入、支払いを結び付ける署名付きレコードを説明している。これらのレコードは何が承認されたかを立証するのに役立つが、それ自体が返金を保証するものではない。

既存の義務も引き続き存在する。英国の金融行動監視機構（FCA）は、規制対象企業はAIを使用する場合でも消費者アウトカムに対して責任を負うと述べており、人間によるレビューがチェックボックス的なルーチンに成り下がる可能性があると警告している。

したがって、エージェントに資金を提供する人にとって、関連する質問は具体的である。それはどのような購入を実行できるのか？どの記録があなたの指示を保存するのか？さらなる支出を停止できるのか？そして、あなたが異議を唱える支払いには誰が対応するのか？

「人々が信頼できる企業を構築しなければなりません」とBitcoin Japan CorporationのPhillip Lord氏は言う。

ユーザーにとって、その信頼は取引後に試されることになる。エージェントが誤り、誰が返金を受けるのかを決定しなければならないときである。