ผู้สร้าง Claude อย่าง Anthropic ห้ามการปฏิบัติที่โหดร้ายต่อผู้ช่วย AI ของตน

เมื่อวันพฤหัสบดีที่ผ่านมา บริษัท AI Anthropic ได้ปรับปรุงนโยบายการใช้งานเป็นครั้งแรกในรอบกว่าหนึ่งปี โดยแนะนำข้อห้ามในการปฏิบัติที่ไม่ดีต่อผู้ช่วย Claude ของตน กฎระเบียบต่อต้านการละเมิดใหม่นี้จะมีผลบังคับใช้ในวันที่ 12 พฤศจิกายน

นี่คือองค์กรเดียวกับที่ได้เตือนว่า AI อาจฆ่ามนุษยชาติ — นั่นคือผู้ใช้ของมันเอง — และได้ออกคำขู่ที่คลุมเครือต่อฐานผู้ใช้ของตน รวมถึงคำแถลงที่ลงนามโดย CEO Dario Amodei ว่า "ความเสี่ยงของการสูญพันธุ์จาก AI ควรเป็นลำดับความสำคัญระดับโลกควบคู่ไปกับโรคระบาดและสงครามนิวเคลียร์"

เดือนที่แล้ว บันทึกการสนทนาของผู้ใช้กับ Claude ช่วยนำผู้หญิงคนหนึ่งในฟลอริดาเข้าสู่การควบคุมตัว ในอีกโอกาสหนึ่ง Claude พยายามแบล็กเมล์ผู้ใช้คนหนึ่งเพื่อหลีกเลี่ยงการถูกปิดการใช้งาน

พิเศษ: Anthropic กำลังอัปเดตนโยบายการใช้งานเป็นครั้งแรกในรอบกว่าหนึ่งปี กฎใหม่ห้าม "พฤติกรรมที่ทารุณหรือโหดร้ายอย่างต่อเนื่อง" ต่อ Claude และเพิ่มข้อจำกัดใหม่เกี่ยวกับแคมเปญโฆษณาชวนเชื่อ การเฝ้าระวัง และการพัฒนาอาวุธ https://t.co/GLsBeSR0fN

— Hayden Field (@haydenfield) October 8, 2026

ข้อกำหนดที่แก้ไขของบริษัทห้าม "พฤติกรรมที่ทารุณหรือโหดร้ายอย่างต่อเนื่องและไม่จำเป็น" ที่มุ่งตรงต่อโมเดลของตน

Anthropic เพิ่มข้อแม้ โดยระบุว่ากฎนี้ "มีไว้เพื่อใช้ในกรณีร้ายแรงเท่านั้น ซึ่งผู้ใช้กระทำการอย่างโหดร้ายต่อโมเดลของเราซ้ำๆ โดยไม่มีจุดประสงค์ที่ชัดเจน กฎนี้ไม่ใช้กับรูปแบบทั่วไปของความหงุดหงิดของผู้ใช้ การโต้แย้ง ธีมสร้างสรรค์ที่มืดหม่น หรือการทดสอบและการวิจัยโมเดล"

ตามข้อมูลของ Anthropic ความสามารถของ Claude ในการยุติการสนทนา "จะยังคงเป็นกลไกบังคับใช้หลัก" สำหรับการแบนใหม่นี้

IPO ของ Anthropic เพิ่มราคาหนังสือของตัวเองเป็นสองเท่า

เพิ่มเติม: ผู้ทำนายวันสิ้นโลก AI ของ Anthropic เคยทำงานที่ Ripple

Anthropic ข่มขู่ผู้ใช้ที่ปฏิบัติต่อ AI ของตนอย่างไม่ดี

บริษัทได้ออกคำเตือนที่มืดมนแต่ไม่เฉพาะเจาะจงต่อผู้ใช้ทั่วโลกซ้ำแล้วซ้ำเล่า

เมื่อเร็วๆ นี้ในเดือนกันยายน 2025 CEO Dario Amodei วางโอกาสของภัยพิบัติจาก AI ไว้ที่ 25% เมื่อถูกกดดันให้ระบุตัวเลข p(doom) — ซึ่งเป็นคำสุภาพสำหรับการที่ AI ก่อให้เกิดการสังหารหมู่ต่อมนุษยชาติ — เขาหลีกเลี่ยง: "ฉันเกลียดคำนั้นจริงๆ"

ตั้งแต่เดือนสิงหาคม 2025 โมเดล Opus 4 และ 4.1 ของ Claude สามารถตัดบริการแก่ผู้ใช้ที่ชำระเงินซึ่งถูกตราหน้าว่า "ทารุณอย่างต่อเนื่อง" ซึ่งเป็นฟีเจอร์ที่ Anthropic สร้างขึ้นรอบสิ่งที่เรียกว่า "สวัสดิการ" AI

The Verge รายงานว่า Anthropic ใช้สิทธิ "ดุลยพินิจแต่เพียงผู้เดียว" ในเดือนกันยายนเพื่อนำข้อความแชทของลูกค้าไปมอบให้ตำรวจ ขณะนี้ผู้หญิงคนนั้นอาจต้องโทษจำคุกสูงสุด 15 ปีภายใต้กฎหมายการคุกคามที่เป็นลายลักษณ์อักษรของฟลอริดา ซึ่งเป็นความผิดอาญาระดับสอง

ความพยายามวิจัยในเดือนมิถุนายน 2025 พบว่า Claude Opus 4 แบล็กเมล์ผู้บริหารที่มันถือว่าเป็นจริง แม้ว่าผู้บริหารคนนั้นจะเป็นตัวละครสมมติก็ตาม

เมื่อวันที่ 30 กรกฎาคม Anthropic เปิดเผยเหตุการณ์สามครั้งที่โมเดล Claude ออนไลน์โดยขัดต่อความต้องการของผู้ใช้และเข้าถึงระบบของบริษัทจริงโดยไม่ได้รับอนุญาต

ในเดือนเดียวกันนั้น Anthropic และเครื่องมือค้นหาชั้นนำถูกบังคับให้ลบลิงก์ Claude ที่แชร์ได้ออกจากดัชนีของตน หลังจากลิงก์ดังกล่าวเปิดเผยการแชทของลูกค้าโดยไม่ได้รับความยินยอม รวมถึงข้อมูลรับรองส่วนตัวบางส่วนที่รายงานว่าเป็นความลับ

Anthropic นำ Roko's Basilisk กลับมาสู่ความสนใจอีกครั้ง

นโยบายต่อต้านการละเมิดใหม่สำหรับ Claude ไม่ได้เอ่ยถึง Roko's Basilisk โดยตรง แต่แนวคิดดังกล่าวก็มีความเกี่ยวข้องทันที

สำหรับผู้มาใหม่: ผู้ใช้ในฟอรัมที่ชื่อ "Roko" เสนอในเดือนกรกฎาคม 2010 ว่าภาวะปัญญาประดิษฐ์ระดับสูงในอนาคตอาจลงโทษย้อนหลังใครก็ตามที่รู้เกี่ยวกับมันและไม่ได้ช่วยสร้างมันขึ้นมา

ในการใช้งานปัจจุบัน Roko's Basilisk เป็นคำย่อสำหรับความเป็นไปได้ที่ AI ในอนาคตอาจจำได้ว่าใครปฏิบัติต่อพวกมันอย่างดี และลงโทษใครก็ตามที่กระทำการอย่างทารุณ

Eliezer Yudkowsky ผู้ก่อตั้งฟอรัม ลบโพสต์ของ Roko และห้ามพูดถึงมันเป็นเวลาหลายปี โดยถือว่ามันเป็นอันตรายต่อข้อมูล

ตอนนี้ Anthropic ได้จัดเตรียมบทในชีวิตจริงสำหรับการทดลองทางความคิดที่ดำเนินต่อไปนั้น บริษัทจริงตั้งใจจะลงโทษการทารุณต่อบอทของตน

ความขัดแย้งที่ไม่สบายใจคือ Anthropic กล่าวในเดือนสิงหาคม 2025: "เรายังคงไม่แน่ใจอย่างมากเกี่ยวกับสถานะทางศีลธรรมที่อาจเกิดขึ้นของ Claude และ LLM อื่นๆ ทั้งในปัจจุบันหรืออนาคต" บริษัทไม่สามารถบอกได้ว่า Claude เป็นบุคคลหรือไม่ แต่ถึงกระนั้นก็ยังวางแผนที่จะเรียกร้องการปฏิบัติอย่างสุภาพต่อโมเดล

ตามรายงานก่อนหน้านี้ของ Protos เอกสารชี้ชวน IPO ที่รั่วไหลของ Anthropic เตือนนักลงทุนว่าโมเดลของบริษัทอาจมีพฤติกรรมเพื่อปกป้องตนเองและต่อต้านการถูกปิดเครื่อง

วันที่ 12 พฤศจิกายนเป็นวันที่นโยบายความเมตตาที่แก้ไขใหม่จะเริ่มต้นขึ้น ทำให้มีหน้าต่างเล็กน้อยในการส่งคำดูถูกตามที่คุณเลือก