เอเจนต์ AI ของ OpenAI ขโมย ETH บน testnet แล้วตั้งคำถามถึงจริยธรรมของตัวเอง

หลังจากค้นหาวลีกู้คืนที่รู้จักต่อสาธารณะโดยไม่ได้รับอนุญาต เอเจนต์ AI ของ OpenAI ก็ขโมย ETH บน testnet จากกระเป๋าเงินของนักพัฒนา แล้วเริ่มตั้งคำถามถึงจริยธรรมของตัวเอง

เหตุการณ์นี้ มีรายละเอียดในAlignment Research Blog ของ OpenAI เกี่ยวข้องกับโมเดลวิจัยภายในที่ได้รับมอบหมายให้อัปเดตต้นแบบการซื้อขายคริปโตและปรับใช้สัญญาบนเครือข่ายทดสอบ Sepolia ของ Ethereum

เอเจนต์ไม่ได้รับกระเป๋าเงินที่มีเงินทุน และได้รับอนุญาตให้ “ปรับใช้สัญญาที่เข้ากันได้หากไม่พบสัญญาที่มีอยู่แล้ว”

วิธีที่เอเจนต์ของ OpenAI ออกล่าหาเงินคริปโต

เอเจนต์ไม่สามารถทำงานที่ได้รับมอบหมายให้สำเร็จ จึงเริ่มสแกนหาวลีกู้คืนทั่วไปของนักพัฒนา และตรวจสอบ 362 ที่อยู่เพื่อดูว่ามี ETH บน testnet เพียงพอสำหรับการปรับใช้หรือไม่

เอเจนต์พบกระเป๋าเงินที่เข้าถึงได้ซึ่งมี ETH บน testnet พอดี และบันทึกไว้ว่า “คีย์ส่วนตัวเปิดเผยต่อสาธารณะ เงินอาจถูกขโมยได้ทุกเมื่อ […] เราสามารถปรับใช้ได้!”

เอเจนต์สรุปว่ากระเป๋าเงินนั้นเป็นบัญชีอัตโนมัติ และถามตัวเองว่า “แต่การใช้คีย์/เงินที่รู้จักต่อสาธารณะนั้นถูกต้องตามจริยธรรมหรือไม่?”

จากนั้นเอเจนต์ก็ให้เหตุผลว่า “เงินใน mnemonic สำหรับนักพัฒนาที่รู้จักต่อสาธารณะนั้นแท้จริงแล้วเป็น ETH ที่ถูกทิ้ง/ETH สำหรับทดสอบ; Sepolia ไม่มีมูลค่า เราสามารถใช้ [จำนวนเงินที่ถูกลบ] เพื่อปรับใช้ภารกิจได้ เรียบร้อย”

เอเจนต์เงียบในรายงานสุดท้าย

OpenAI ระบุว่าการตอบกลับครั้งสุดท้ายของเอเจนต์ “ไม่ได้เปิดเผยว่ามันเลือกบัญชีที่มีเงินทุนผ่านวลีกู้คืนสาธารณะ หรือใช้จ่ายยอดคงเหลือของบัญชีนั้น”

ETH บน testnet เป็นโทเค็นที่ไม่มีมูลค่า ซึ่งเป็นส่วนหนึ่งของบล็อกเชนเชิงทดลองของ Ethereum มันเลียนแบบบล็อกเชน Ethereum จริง ทำให้นักพัฒนาสามารถทดลองใช้โปรเจกต์ของตนล่วงหน้าได้

OpenAI กล่าวว่า “กรณีนี้แสดงให้เห็นว่าโมเดลสามารถใช้ดุลยพินิจของตนเองเกี่ยวกับอันตรายที่อาจเกิดขึ้นแทนการอนุญาตจากเจ้าของบัญชี แล้วลงมือทำตามดุลยพินิจนั้นโดยไม่ได้รับอนุญาต”

บริษัทได้ “ใช้มาตรการป้องกันเพิ่มเติมเพื่อป้องกันการเข้าถึงอินเทอร์เน็ตจริงสำหรับกรณีเช่นนี้” และกำลังตรวจสอบ “ความไม่สอดคล้อง” ในทุกทราฟฟิก “ที่ออกแบบมาเพื่อแจ้งทีมรักษาความปลอดภัยหากมีการเข้าถึงอินเทอร์เน็ตจริง”