เมื่อเอเจนต์ AI ทำผิดพลาดในการจองที่ทำให้เสียค่าใช้จ่ายสูง

ลองนึกภาพตัวเองบอกผู้ช่วย AI ให้จองตั๋วชั้นธุรกิจไปเกาหลี ระบบพบตัวเลือกต้นทุนต่ำที่ตรงกับงบประมาณของคุณ ปัญหาเดียว? มันเลือกเกาหลีผิดที่

Daniel Ishag ประธานเจ้าหน้าที่ฝ่ายพาณิชย์ของ Bakkt แบ่งปันเวอร์ชันของสมมติฐานนี้ในระหว่างการอภิปรายในวงเสวนา

"ฉันจะรู้ได้อย่างไรว่าเอเจนต์จะไม่จองเที่ยวบินไปเกาหลีเหนือแทนที่จะเป็นเกาหลีใต้?" เขาถาม

ภาพประกอบนี้เกินจริงโดยเจตนา แต่มันเน้นถึงความท้าทายที่แท้จริงเมื่อซอฟต์แวร์ได้รับสิทธิ์ในการใช้จ่าย การปฏิบัติตามงบประมาณไม่ได้รับประกันว่างานจะเข้าใจอย่างถูกต้อง

ทันทีที่มีการโอนเงิน ใครสักคนต้องจัดการกับข้อผิดพลาด

งบประมาณเป็นเพียงจุดเริ่มต้น

เอเจนต์ซอฟต์แวร์สามารถตีความคำสั่งผิด นักแสดงที่เป็นอันตรายสามารถแทรกคำสั่งที่ซ่อนอยู่ในข้อมูลที่ดูเหมือนไม่เป็นอันตราย บุคคลที่ไม่ได้รับอนุญาตสามารถควบคุมกระเป๋าเงินของมันได้

สถานการณ์เหล่านี้ทั้งหมดส่งผลให้เกิดผลลัพธ์ทันทีเดียวกัน—การชำระเงินที่เจ้าของไม่เคยอนุญาต—แต่แต่ละอย่างทำให้เกิดคำถามที่แตกต่างกันเกี่ยวกับความรับผิด

รายงาน The State of AI Agent Payments 2026 จาก BeInCrypto พบว่า 14 จาก 19 ผลิตภัณฑ์และเวิร์กโฟลว์ที่ตรวจสอบสามารถทำงานภายในสิทธิ์ที่ได้รับการอนุมัติล่วงหน้า การสังเกตนั้นสะท้อนถึงฟังก์ชันที่บันทึกไว้มากกว่าหลักฐานว่ามาตรการป้องกันไม่สามารถทำลายได้

แยกกัน เหตุการณ์สองเหตุการณ์ที่เน้นในการศึกษาส่งผลให้มีการโอนเงิน $281,200 ไปยังผู้โจมตีก่อนที่จะมีการกู้คืนเงิน คำสั่งที่เป็นอันตรายไปถึงกระเป๋าเงินที่มีเงินทุนในขณะที่บล็อกเชนยังคงไม่เสียหาย

Phillip Lord ประธานเจ้าหน้าที่บริหารของ Bitcoin Japan Corporation คาดว่าเอเจนต์จะเพิ่มความเสี่ยงเพิ่มเติม เขาพูดตรงไปตรงมาเช่นเดียวกันเกี่ยวกับทางเลือกที่เกี่ยวข้องกับมนุษย์

"แต่คริปโตก็เสี่ยงมากอยู่แล้วใช่ไหม?" เขาพูด "มนุษย์ไม่ได้เก่งขนาดนั้นใช่ไหม?"

มนุษย์คลิกลิงก์ที่เป็นอันตรายเป็นประจำและพึ่งพาข้อมูลที่บกพร่อง การจ้างบุคคลภายนอกมาทำงานทำให้เกิดภาวะกลืนไม่เข้าคายไม่ออกอีกประการหนึ่ง: ใครเป็นฝ่ายผิดเมื่อซอฟต์แวร์ดำเนินการในนามของคุณและทำผิดพลาด?

แรงกดดันในการสร้างต่อเนื่อง

ในมุมมองของ Ishag การแข่งขันไม่ได้จำกัดอยู่แค่บริษัทที่แสวงหาลูกค้า ประเทศต่างๆ แข่งขันกันเพื่อไฟฟ้า ทรัพยากรการคำนวณ และเซมิคอนดักเตอร์ที่จำเป็นสำหรับการพัฒนา AI

"มันเป็นรัฐต่อรัฐ" Daniel Ishag จาก Bakkt กล่าว

เขากลัวว่าความเร่งด่วนในการเร่งพัฒนาอาจทำให้ความปลอดภัยถูกละเลย

สิ่งนี้สร้างสภาพแวดล้อมที่ไม่สบายใจสำหรับระบบอัตโนมัติทางการเงิน: การแข่งขันกระตุ้นให้ขยายความสามารถของซอฟต์แวร์ ในขณะที่ผู้ใช้ต้องการความมั่นใจว่าระบบสามารถหยุดได้หรือพวกเขาสามารถชดใช้ขาดทุนได้

อ่านสัญญา แล้วจึงอ่านข้อกำหนด

Ehud Tal ผู้ร่วมก่อตั้งและซีอีโอของบริษัทรักษาความปลอดภัยบล็อกเชน Sailo Technologies ระบุการชดใช้คืนเป็นส่วนหนึ่งของกลยุทธ์ของบริษัท

"ดังนั้นเราจึงให้ลูกค้าของเราเป็นครั้งแรกที่มีการรับประกันคืนเงิน"

ตัวอย่างที่จับต้องได้ของการจัดสรรความรับผิดปรากฏในกระเป๋าเงิน Link ของ Stripe ข้อกำหนดเอเจนต์ปัจจุบันระบุว่าผู้ใช้ต้องรับผิดชอบ ในความสัมพันธ์ระหว่างพวกเขาและ Stripe สำหรับธุรกรรมที่ริเริ่มโดยเอเจนต์ที่เชื่อมต่อ—แม้ว่าธุรกรรมเหล่านั้นจะไม่ได้ตั้งใจหรือเกิดจากบั๊ก ภาพหลอน หรือการตีความคำสั่งผิดก็ตาม

ข้อกำหนดยกเว้นสำหรับความผิดพลาดทางเทคนิคหรือความผิดพลาดของ Stripe เอง

ท่าทีตามสัญญานั้นไม่ได้แก้ไขสิทธิทางกฎหมายของผู้บริโภคทุกคน แต่มันแสดงให้เห็นว่าการให้สิทธิ์ในการใช้บริการชำระเงินไม่ควรตีความว่าเป็นการรับประกันว่าผู้ให้บริการจะครอบคลุมข้อผิดพลาดที่เกิดจากเอเจนต์

การอนุมัติการใช้จ่าย $200 บอกผู้ให้บริการชำระเงินบางอย่างเกี่ยวกับจำนวนเงิน มันอาจสื่อถึงน้อยกว่ามากเกี่ยวกับผลิตภัณฑ์ ผู้รับ หรือเงื่อนไขที่คุณตั้งใจ

เมื่อธุรกรรมผิดพลาด ความคลาดเคลื่อนนั้นอาจกลายเป็นประเด็นสำคัญในข้อพิพาท

มีความพยายามในการทำให้ข้อขัดแย้งดังกล่าวคล่องตัวขึ้น โปรโตคอล Agent Payments ของ Google อธิบายบันทึกที่ลงนามซึ่งเชื่อมโยงคำแนะนำของผู้ใช้ การซื้อที่ได้รับการอนุมัติ และการชำระเงิน บันทึกเหล่านั้นสามารถช่วยสร้างสิ่งที่ได้รับอนุญาต แต่ไม่ได้รับประกันการชดใช้คืนด้วยตัวเอง

ภาระหน้าที่ที่มีอยู่ยังคงดำเนินต่อไปเช่นกัน Financial Conduct Authority ของสหราชอาณาจักรระบุว่าบริษัทที่ถูกควบคุมยังคงรับผิดชอบต่อผลลัพธ์ของผู้บริโภคเมื่อใช้ AI และเตือนว่าการตรวจสอบของมนุษย์อาจกลายเป็นกิจวัตรการทำเครื่องหมายในช่อง

สำหรับใครก็ตามที่ให้เงินทุนแก่เอเจนต์ คำถามที่เกี่ยวข้องจึงเป็นรูปธรรม สามารถซื้ออะไรได้บ้าง? บันทึกใดที่เก็บรักษาคำสั่งของคุณ? คุณสามารถหยุดการใช้จ่ายเพิ่มเติมได้หรือไม่? และใครที่จัดการกับการชำระเงินที่คุณโต้แย้ง?

"เราต้องสร้างบริษัทที่ผู้คนสามารถไว้วางใจได้" Phillip Lord จาก Bitcoin Japan Corporation กล่าว

สำหรับผู้ใช้ ความไว้วางใจนั้นจะถูกทดสอบหลังการทำธุรกรรม: เมื่อเอเจนต์ทำผิดและใครสักคนต้องตัดสินว่าใครจะได้รับเงินคืน