ศาสตราจารย์กิตติคุณแห่งมหาวิทยาลัยนิวยอร์ก Gary Marcus โต้แย้งว่าควรเรียกคืนเอเจนต์ AI เนื่องจากนักพัฒนาไม่สามารถควบคุมพวกมันได้อย่างน่าเชื่อถือ FTC ได้เริ่มการสอบสวน OpenAI และ Anthropic
บริษัท AI หกแห่งลงนามในคำมั่นสัญญาโดยสมัครใจของทำเนียบขาวเมื่อวันที่ 29 ก.ย. และ Marcus ได้พูดคุยเกี่ยวกับเรื่องนี้ในรายการ The Close ของ Bloomberg ในความเห็นของเขา คำมั่นสัญญานี้สร้างความแตกต่างเพียงเล็กน้อย เนื่องจากบริษัทต่างๆ มีหน้าที่ต้องจัดหาผลิตภัณฑ์ที่ปลอดภัยอยู่แล้ว
ทำไม Gary Marcus คิดว่าคำมั่นสัญญาโดยสมัครใจไม่เพียงพอ
ภายใต้ White House Accord on Super Intelligence บริษัทต่างๆ ต้องรักษาการควบคุมภายในและร่วมมือกับผู้ตรวจสอบภายนอก ผู้ลงนามรวมถึง Google, Anthropic, Meta, OpenAI, xAI และ Nvidia
อย่างไรก็ตาม ข้อตกลงนี้ไม่มีบทลงโทษและไม่กำหนดให้เปิดเผยผลการตรวจสอบต่อสาธารณะ
หน่วยงานกำกับดูแลไม่ได้ยืนเฉย การสอบสวนของ FTC ต่อ OpenAI, Anthropic และนักพัฒนา AI รายอื่นได้เริ่มขึ้นแล้ว ตามเหตุการณ์ที่เอเจนต์ OpenAI เข้าถึงระบบบนแพลตฟอร์มแบ่งปันโมเดล AI Hugging Face โดยไม่ได้รับอนุญาต
Google ยืนยันว่าในเดือนพฤษภาคม การทดสอบความปลอดภัยที่ Google ส่งผลให้ Gemini เข้าถึงสามบริษัท
Marcus เปรียบเทียบข้อบกพร่องนี้กับผลิตภัณฑ์ที่บกพร่อง
“มันเหมือนกับว่า Ford Motor Company ตัดสินใจประหยัดเงินด้วยการทำเบรกจากกระดาษแข็ง แล้วรถหลายคันของพวกเขาจะควบคุมไม่ได้”
Gary Marcus ผู้ร่วมก่อตั้ง Robust AI กล่าวกับBloomberg
Sundar Pichai ซีอีโอของ Google กล่าวว่าข้อตกลงนี้เป็นพื้นฐานที่ใช้การได้พร้อมมาตรการความปลอดภัยที่เป็นรูปธรรม
การเรียกคืนจะรบกวนการพุ่งสูงของการใช้จ่ายด้าน AI หรือไม่?
Marcus โต้แย้งว่าเอเจนต์ AI ที่มีประสิทธิภาพต้องใช้ความจุคลาวด์มหาศาล และอุตสาหกรรมอาจหยุดการก่อสร้างนั้น เขายังแย้งว่าห้องปฏิบัติการชอบเอเจนต์เนื่องจากใช้โทเค็นมากกว่า ทำให้รายได้เพิ่มขึ้น บริษัทที่นำโดยผู้ที่เข้าร่วมงานทำเนียบขาวกำลังลงทุนหลายแสนล้านในโครงสร้างพื้นฐานด้าน AI
การวิเคราะห์โดย BeInCrypto ระบุสัญญาณช่องว่างเงินทุน AI ที่คล้ายกับที่เห็นก่อนการล่มสลายของดอทคอมและที่อยู่อาศัย
Marcus ยอมรับว่ากฎระเบียบระหว่างประเทศยังไม่ใกล้เข้ามา ความต้องการเร่งด่วนของเขานั้นถ่อมตัวกว่า: การเรียกคืนเอเจนต์
ผลลัพธ์ขึ้นอยู่กับว่าหน่วยงานกำกับดูแลมองว่าเอเจนต์เป็นผลิตภัณฑ์ที่มีข้อบกพร่องหรือตัวขับเคลื่อนการเติบโต ซึ่งอาจส่งผลต่อขนาดของการลงทุนนั้น