Khi các tác nhân AI gây ra lỗi đặt vé tốn kém

Hãy tưởng tượng bạn yêu cầu một trợ lý AI đặt vé hạng thương gia đến Hàn Quốc. Hệ thống tìm thấy một lựa chọn giá rẻ phù hợp với ngân sách của bạn. Vấn đề duy nhất? Nó đã chọn nhầm nước Hàn Quốc.

Daniel Ishag, giám đốc thương mại của Bakkt, đã chia sẻ một phiên bản của tình huống giả định này trong một buổi thảo luận nhóm.

“Làm sao tôi biết được tác nhân sẽ không đặt cho tôi một chuyến bay đến Triều Tiên thay vì Hàn Quốc?” anh ta hỏi.

Minh họa này có chủ ý phóng đại. Tuy nhiên, nó làm nổi bật một thách thức thực sự khi phần mềm được cấp quyền chi tiêu. Tuân thủ ngân sách không đảm bảo rằng nhiệm vụ được hiểu đúng.

Ngay khi tiền được chuyển đi, ai đó phải giải quyết lỗi.

Ngân sách chỉ là khởi đầu

Một tác nhân phần mềm có thể hiểu sai một lệnh. Một tác nhân độc hại có thể chèn các chỉ dẫn ẩn trong dữ liệu tưởng chừng vô hại. Một bên không được ủy quyền có thể giành quyền kiểm soát ví của nó.

Tất cả các kịch bản này đều dẫn đến cùng một kết quả trước mắt—một khoản thanh toán mà chủ sở hữu không bao giờ cho phép—nhưng mỗi kịch bản đặt ra những câu hỏi khác nhau về trách nhiệm.

Báo cáo 'State of AI Agent Payments 2026' từ BeInCrypto cho thấy 14 trong số 19 sản phẩm và quy trình làm việc được kiểm tra có thể hoạt động trong các quyền đã được phê duyệt trước. Quan sát này phản ánh chức năng được ghi nhận thay vì bằng chứng cho thấy các biện pháp bảo vệ là không thể phá vỡ.

Riêng biệt, hai sự cố được nêu bật trong nghiên cứu đã dẫn đến $281,200 được chuyển cho những kẻ tấn công trước khi tiền được thu hồi. Các lệnh độc hại đã đến được các ví đã nạp tiền trong khi bản thân blockchain vẫn còn nguyên vẹn.

Phillip Lord, giám đốc điều hành của Bitcoin Japan Corporation, dự đoán các tác nhân sẽ mang thêm rủi ro. Ông cũng thẳng thắn không kém về phương án thay thế liên quan đến con người.

“Nhưng crypto vốn đã khá rủi ro lắm rồi, phải không?” anh ta nói. “Con người cũng không giỏi lắm đâu, phải không?”

Con người thường xuyên nhấp chuột vào các liên kết có hại và dựa vào thông tin sai lệch. Giao phó nhiệm vụ cho người khác tạo ra một tình thế tiến thoái lưỡng nan khác: ai là người có lỗi khi phần mềm hành động thay mặt bạn và phạm sai lầm?

Áp lực phải tiếp tục xây dựng

Theo quan điểm của Ishag, sự cạnh tranh không chỉ giới hạn ở các công ty tìm kiếm khách hàng. Các quốc gia đang tranh giành điện năng, tài nguyên máy tính và chất bán dẫn cần thiết cho sự phát triển của AI.

“Đó là chủ quyền chống lại chủ quyền,” Daniel Ishag từ Bakkt nói.

Ông lo ngại rằng sự khẩn cấp trong việc thúc đẩy phát triển có thể khiến an ninh bị lãng quên.

Điều này tạo ra một môi trường bất an cho tự động hóa tài chính: cuộc đua khuyến khích mở rộng khả năng của phần mềm, trong khi người dùng yêu cầu sự đảm bảo rằng các hệ thống có thể bị dừng lại hoặc họ có thể thu hồi được tổn thất.

Đọc lời hứa, sau đó đọc các điều khoản

Ehud Tal, đồng sáng lập và giám đốc điều hành của công ty bảo mật blockchain Sailo Technologies, đề ra việc bồi hoàn như một phần trong chiến lược của công ty.

“Vì vậy lần đầu tiên, chúng tôi cung cấp cho khách hàng một bảo đảm hoàn tiền.”

Một ví dụ cụ thể về cách trách nhiệm có thể được phân bổ xuất hiện trong ví Link của Stripe. Các điều khoản về tác nhân hiện tại của nó quy định rằng người dùng phải chịu trách nhiệm, trong mối quan hệ giữa họ và Stripe, đối với các giao dịch do các tác nhân được kết nối khởi tạo—ngay cả khi các giao dịch đó không có chủ đích hoặc do lỗi, ảo giác hoặc lệnh bị hiểu sai.

Các điều khoản đưa ra một ngoại lệ cho lỗi kỹ thuật hoặc sai sót của chính Stripe.

Lập trường hợp đồng đó không giải quyết mọi quyền lợi hợp pháp của người tiêu dùng. Nó chứng tỏ rằng việc cấp phép sử dụng dịch vụ thanh toán không nên được hiểu là một sự bảo đảm rằng nhà cung cấp sẽ trang trải các lỗi do tác nhân gây ra.

Ủy quyền chi tiêu $200 nói với nhà cung cấp dịch vụ thanh toán điều gì đó về số tiền. Nó có thể truyền tải ít hơn nhiều về sản phẩm, người nhận hoặc các điều kiện bạn dự định.

Khi một giao dịch gặp trục trặc, sự khác biệt đó có thể trở thành vấn đề trọng tâm trong một tranh chấp.

Có những nỗ lực để hợp lý hóa các bất đồng như vậy. Giao thức thanh toán tác nhân của Google (Agent Payments Protocol) mô tả các bản ghi đã ký liên kết hướng dẫn của người dùng, giao dịch mua được phê duyệt và thanh toán. Các bản ghi đó có thể giúp xác định những gì đã được ủy quyền, nhưng bản thân chúng không đảm bảo việc bồi hoàn.

Các nghĩa vụ hiện tại cũng vẫn tồn tại. Cơ quan Quản lý Tài chính Anh (FCA) cho biết các công ty được quản lý vẫn phải chịu trách nhiệm về kết quả của người tiêu dùng khi sử dụng AI, và cảnh báo rằng việc xem xét của con người có thể biến thành một thói quen đánh dấu ô.

Đối với bất kỳ ai cung cấp tiền cho một tác nhân, các câu hỏi liên quan do đó rất cụ thể. Những giao dịch mua nào nó có thể thực hiện? Bản ghi nào lưu giữ các chỉ thị của bạn? Bạn có thể dừng chi tiêu thêm không? Và ai giải quyết một khoản thanh toán bạn tranh chấp?

“Chúng ta phải xây dựng những công ty mà mọi người có thể tin tưởng,” Phillip Lord từ Bitcoin Japan Corporation nói.

Đối với người dùng, lòng tin đó sẽ bị thử thách sau giao dịch: khi một tác nhân sai sót và ai đó phải quyết định ai sẽ nhận được khoản hoàn tiền.