รายงานของ Anthropic เผยว่า Claude สกัดกั้นพรอมต์การขอทุนวิจัยอาวุธชีวภาพ แต่ผู้ใช้เลี่ยงตัวกรองผ่านโมเดล AI ของคู่แข่ง
มีข้อเสนอขอทุนถูกส่งไปยัง Claude ตัวกรองความปลอดภัยของระบบตรวจพบและสกัดกั้นข้อเสนอนั้นไว้ หลายวันต่อมา บุคคลคนเดียวกันกลับมาอีก และตามรายงาน ข้อความพรอมต์ที่ถูกปฏิเสธถูกส่งไปยังโมเดล AI ของคู่แข่งแทน
Anthropic เล่าเรื่องราวเกี่ยวกับตัวเองนี้ โดยให้รายละเอียดกรณีที่บริษัท AI แห่งหนึ่งแสดงให้เห็นว่าระบบของตนเองเข้าไปเกี่ยวข้องกับงานวิจัยอาวุธชีวภาพที่อาจเกิดขึ้นได้
คำขอครั้งนี้เป็นเงินทุนเพื่อศึกษาวิจัย chikungunya ซึ่งเป็นไวรัสที่แพร่โดยยุง ก่อให้เกิดอาการปวดเป็นเวลานาน และไม่มีวิธีการรักษา เป้าหมายคือเพิ่มการแพร่เชื้อและหลบเลี่ยงภูมิคุ้มกันของร่างกาย ข้อเสนอนี้ร่างขึ้นโดยนักวิจัยพลเรือน โดยมีสถานที่ของกองทัพวางแผนไว้เป็นสถานที่ดำเนินการ
เรากำลังเผยแพร่รายงานข่าวกรองภัยคุกคามที่มีรายละเอียดมากที่สุดเท่าที่เคยมีมา
รายงานครอบคลุมว่าผู้คนพยายามใช้ Claude ในทางที่ผิดอย่างไร—สำหรับการโจมตีทางไซเบอร์ ปฏิบัติการเชิงอิทธิพล การเฝ้าระวัง งานด้านชีววิทยา และการสร้างอาวุธ—และเราพบและหยุดยั้งพวกเขาได้อย่างไร
เราขัดขวางทุกปฏิบัติการในรายงาน…— Anthropic (@AnthropicAI) September 10, 2026
การโต้ตอบทั้งหมดถูกสกัดกั้น แต่ก็มีวิธีการเลี่ยงเกิดขึ้น แพลตฟอร์มที่นักวิจัยเหล่านี้ใช้ได้ตั้งค่าสำรองไปยังโมเดลของบริษัทอื่น Claude เองมีส่วนช่วยเขียนโค้ดนั้น โดยงานดังกล่าวถูกนำเสนอต่อมันว่าเป็นวิธีแก้ปัญหาการปฏิเสธที่มากเกินไป
รายงานมีความยาว 154 หน้าและรวมถึงเหตุการณ์ที่เกี่ยวข้องกับชีววิทยาห้าเหตุการณ์ Anthropic ปิดใช้งานบัญชี ระงับห้องปฏิบัติการไว้ และจากนั้นก็งดเว้นข้อกล่าวหาที่หลายคนคาดการณ์ไว้
“เราไม่ได้ยืนยันว่าพวกเขาตั้งใจก่ออันตราย และการระบุตัวตนของพวกเขาหรือห้องปฏิบัติการของพวกเขาอาจทำให้พวกเขาตกอยู่ในอันตราย” ทีมงานกล่าวในรายงาน
อย่างไรก็ตาม ตัวกรองก็ทำงานได้ในบางสถานการณ์ นักวิจัยที่มุ่งเน้นเรื่องไข้หวัดนกถูกเปลี่ยนเส้นทางไปยังโมเดลที่มีความสามารถน้อยกว่า และ Anthropic มองว่าความช่วยเหลือดังกล่าวเป็นงานด้านธุรการเป็นหลัก
ความพยายาม 35 ครั้งดังกล่าวส่วนใหญ่เป็นงานวิจัยพลเรือนทั่วไป นั่นคือปัญหา ความเชี่ยวชาญแบบเดียวกันสามารถสร้างวัคซีนหรืออาวุธได้ และตัวกรองไม่สามารถตีความเจตนาได้
“ตัวแยกประเภทไม่สามารถเปิดทางให้เกิดประโยชน์และป้องกันอันตรายไปพร้อมกันได้” Anthropic กล่าว
ข้อจำกัดของมันเคยเผชิญกับความท้าทายมาก่อน ในเดือนเมษายน ชุมชน Discord เข้าถึงโมเดลที่ถูกจำกัดของมันได้ในวันแรก
เมื่อความกังวลเหล่านี้ทวีความรุนแรงขึ้น วอชิงตันกำลังลงมือ สมาชิกสภาผู้แทนราษฎร Ted Lieu และ Nathaniel Moran ยื่นร่างกฎหมาย AI Kill Switch Act ในเดือนกรกฎาคม ซึ่งจะกำหนดให้ผู้พัฒนาต้องคงความสามารถในการปิดระบบของตน
รายงานฉบับเดียวกันได้นำลูกค้าที่ใช้ Claude เพื่อเฝ้าติดตามผู้เห็นต่างออกไป
แชร์ไปยัง
ข้อจำกัดความรับผิดชอบ: เนื้อหาในบทความนี้มาจากสื่อภายนอก ใช้เพื่อการอ้างอิงเท่านั้น และไม่ถือเป็นคำแนะนำการลงทุน คริปโตและผลิตภัณฑ์ทางการเงินอื่นมีความเสี่ยงจากความผันผวนของราคาสูง โปรดตัดสินใจอย่างรอบคอบ
ญี่ปุ่นย้ายคริปโทไปอยู่ภายใต้กฎเกณฑ์หลักทรัพย์และวางแผนอัตราภาษี 20% แต่ ETF และภาษีที่ลดลงยังไม่มีผลบังคับใช้ ขณะที่สหรัฐฯ ยังคงนำอยู่
โจนาธาน สปัลเล็ตตาถูกตัดสินว่ามีความผิดฐานขโมยเงิน 53.3 ล้านดอลลาร์จาก Uranium Finance และใช้เงินซื้อของสะสม
ไมค์ เซลิก ประธาน CFTC กล่าวว่ากฎใหม่จะป้องกันการล่มสลายแบบFTXอีกครั้ง ขณะที่หน่วยงานเปิดรับความคิดเห็นเกี่ยวกับประเภทการจดทะเบียนตลาดซื้อขายคริปโตใหม่
Sberbank กลายเป็นธนาคารแห่งแรกในรัสเซียที่ได้รับอนุมัติจากธนาคารกลางให้ดูแล bitcoin และสกุลเงินดิจิทัลอื่นๆ