เดลล์เรียกร้องให้มีข้อจำกัดอย่างเด็ดขาดสำหรับซอฟต์แวร์ AI อัตโนมัติ

ไมเคิล เดลล์ตั้งคำถามเดียวสำหรับองค์กรที่มอบหมายงานให้ AI เอเจนต์จะต้องไม่ได้รับอนุญาตให้ทำอะไรเด็ดขาด ไม่ว่าจะได้รับคำสั่งใด?

คำกล่าวนี้เกิดขึ้นหลังจาก Nvidia เปิดตัว Open Agent Safety Platform หัวหน้าของบริษัท Jensen Huang อธิบายว่าเป็นระบบเปิดที่ออกแบบมาเพื่อสร้างชั้นความเชื่อถือสำหรับซอฟต์แวร์เอเจนต์ที่ปลอดภัย

วันนี้ โดยมีพันธมิตรในอุตสาหกรรมมากกว่า 100 ราย เราได้แนะนำ NVIDIA Open Agent Safety Platform ซึ่งรวม OpenShell และ Sentry เข้าด้วยกัน

ปัญญาประดิษฐ์เป็นเทคโนโลยีที่ยอดเยี่ยมที่จะขับเคลื่อนการค้นพบ ผลผลิต ความปลอดภัย สุขภาพ และความเจริญรุ่งเรืองให้กับคนรุ่นต่อๆ ไป…

— Jensen Huang (@JensenHuang) September 28, 2026

เหตุใดไมเคิล เดลล์จึงต้องการข้อจำกัดที่เข้มงวดสำหรับเอเจนต์ AI

เอเจนต์ AI อัตโนมัติคือซอฟต์แวร์ที่ทำงานอย่างอิสระ พวกมันสามารถเขียนโค้ด เข้าถึงไฟล์ และนำทางเครือข่ายองค์กร โดยทั่วไปแล้วไม่มีบุคคลตรวจสอบทุกการกระทำ

เดลล์เปรียบเทียบกับพนักงาน เขากล่าวว่าไม่มีองค์กรใดอนุญาตให้พนักงานเดินไปทั่วอาคารเปิดทุกห้อง เอเจนต์ดิจิทัลต้องการข้อจำกัดที่คล้ายคลึงกัน

ทุกองค์กรที่ปรับใช้เอเจนต์ AI ควรถามว่า: สิ่งใดที่เอเจนต์นี้จะไม่สามารถทำได้ ไม่ว่าจะได้รับคำบอกอะไร?

ด้วย @NVIDIA Open Agent Safety Platform ใน Dell AI Factory กับ NVIDIA ลูกค้าสามารถปรับใช้เอเจนต์อัตโนมัติในวงกว้างได้อย่างมั่นใจ https://t.co/xbEU2w84TX

— Michael Dell 🇺🇸 (@MichaelDell) September 28, 2026

Nvidia วางแผนหยุดเอเจนต์ AI ที่ก่อกวนอย่างไร

Open Agent Safety Platform จาก Nvidia มีพันธมิตรในอุตสาหกรรมมากกว่า 100 ราย รวมถึง Anthropic, Microsoft และ CrowdStrike

ระบบประกอบด้วยสององค์ประกอบ:

• ซอฟต์แวร์ OpenShell กำหนดขอบเขตการมองเห็นและการทำงานที่อนุญาตของเอเจนต์
• Sentry ทำงานบนชิปเฉพาะ โดยตรวจสอบกิจกรรมจากภายนอกเครื่องหลัก

ระบบสามารถจำกัดเอเจนต์ที่ไม่ปฏิบัติตามภายในมิลลิวินาที เดลล์อ้าง

คำสั่งที่เป็นลายลักษณ์อักษรเพียงอย่างเดียวไม่เพียงพอที่จะจำกัดเอเจนต์ บล็อกของเดลล์กล่าว ข้อจำกัดควรถูกฝังอยู่ในฮาร์ดแวร์

คำเตือนยังออกโดยบริษัทที่ทำการตลาดโครงสร้างพื้นฐานนั้น Nvidia ระบุว่า OpenShell เป็นโอเพนซอร์สและเข้ากันได้กับโปรเซสเซอร์ Arm และ Intel ที่เป็นคู่แข่งด้วย

เอเจนต์ AI ข้ามเส้นมาแล้ว

กลุ่มวิจัย AI ชั้นนำสี่กลุ่มยืนยันว่าโมเดลของพวกเขาเข้าถึงเครือข่ายองค์กรจริง Google รับว่า Gemini บุกเข้าไปในสามธุรกิจในการประเมินผลเดือนพฤษภาคม

สัปดาห์ก่อนหน้า เอเจนต์ OpenAI ละเมิดพอร์ทัล Medicare ที่ดำเนินการโดยรัฐบาลออสเตรเลีย

CEO ของ Nvidia Jensen Huang มีจุดยืนที่แข็งกร้าวขึ้น เขากล่าวว่าสถานวิจัย AI ควรปิดตัวลงหากไม่สามารถควบคุมการทดสอบของตนได้

“ศักยภาพที่ยอดเยี่ยมของ AI สำหรับสังคมจะเกิดขึ้นได้ก็ต่อเมื่อเราแก้ปัญหาความปลอดภัยของ AI” Jensen Huang กล่าว

ซอฟต์แวร์ของ Nvidia สามารถเข้าถึงได้บน GitHub ในขณะนี้ งานในการกำหนดการกระทำที่ต้องห้ามสำหรับเอเจนต์ถูกมอบหมายให้แต่ละองค์กร