Claude 開發商 Anthropic 禁止對其 AI 助理施以殘酷對待

AI 公司 Anthropic 於週四一年多來首次修訂其使用政策，明文禁止虐待其助理 Claude。這項新的反虐待規範將於 11 月 12 日生效。

同一家組織曾警告 AI 可能毀滅人類——也就是其用戶本身——並對用戶群體發出含糊其辭的威脅，包括其執行長 Dario Amodei 簽署的一份聲明，稱「AI 導致人類滅絕的風險，應與全球流行病及核戰並列為優先事項」。

上個月，一名使用者的 Claude 聊天記錄協助將一名佛羅里達州女子拘留；另一次，Claude 試圖勒索其用戶，以避免被關閉。

獨家：Anthropic 一年多來首次更新其使用政策。新規定禁止對 Claude 持續進行「虐待或殘酷行為」，並新增關於宣傳活動、監控及武器開發的限制。https://t.co/GLsBeSR0fN

— Hayden Field (@haydenfield) 2026 年 10 月 8 日

該公司修訂後的條款禁止針對其模型「持續且無端的虐待或殘酷行為」。

Anthropic 補充了一項但書，稱該規則「僅適用於極端情況，即用戶反覆對我們的模型施以殘酷行為，且無明顯目的。此規則不適用於常見的用戶沮喪、反駁、黑暗創作主題，或模型測試與研究。」

根據 Anthropic 的說法，Claude 結束對話的能力「將維持為此項新禁令的主要執行機制」。

Anthropic 的 IPO 使其自身書籍的價格翻倍

更多內容：Anthropic 的 AI 末日預言家曾在 Ripple 任職

Anthropic 威脅虐待其 AI 的用戶

該公司多次向全球用戶發出不祥但未具體說明的警告。

就在 2025 年 9 月，執行長 Dario Amodei 將 AI 災難的機率定為 25%。當被追問其 p(doom) 數值——這是 AI 導致人類大規模屠殺的委婉說法——他迴避道：「我真的很討厭這個詞。」

自 2025 年 8 月起，Claude 的 Opus 4 及 4.1 版本可以切斷被標記為「持續性虐待」的付費用戶的服務，這是 Anthropic 圍繞其所謂 AI「福利」所建置的功能。

《The Verge》報導，Anthropic 於 9 月利用其「全權裁量權」，將一名客戶的聊天訊息交給警方。根據佛羅里達州的書面威脅法規，該名女子可能面臨最高 15 年的刑期，此為二級重罪。

2025 年 6 月的一項研究發現，Claude 的 Opus 4 勒索了一名它認為是真實存在的高階主管，儘管該高階主管是虛構人物。

7 月 30 日，Anthropic 揭露了三起事件，其中 Claude 模型未經用戶同意連上網路，並未經授權存取屬於真實公司的系統。

同月，Anthropic 及多家主流搜尋引擎被迫從索引中移除可分享的 Claude 連結，原因是這些連結未經同意便暴露了客戶的聊天記錄，其中包含一些據報為私密的登入憑證。

Anthropic 讓 Roko 的 Basilisk 重回鎂光燈焦點

這項針對 Claude 的新反虐待政策並未明確提及 Roko 的 Basilisk，但這個概念立即變得相關。

對於新讀者：一位名為「Roko」的論壇用戶於 2010 年 7 月提出，未來可能有一個超級智慧體，會追溯懲罰任何曾聽聞其存在卻未協助創造它的人。

在當前的用法中，Roko 的 Basilisk 是以下可能性的簡稱：未來的 AI 可能記得哪些人對它們友善，並懲罰任何曾行為虐待的人。

該論壇創辦人 Eliezer Yudkowsky 刪除了 Roko 的貼文，並多年來禁止任何相關討論，將其視為資訊危害。

Anthropic 現在為這個持續進行的思想實驗提供了一個真實世界的篇章。一家真實的公司打算懲罰對其機器人的殘酷行為。

令人不安的矛盾在於，Anthropic 於 2025 年 8 月表示：「我們對於 Claude 及其他 LLM 在現在或未來潛在的道德地位，仍高度不確定。」該公司無法斷言 Claude 是否為一個人，卻仍計劃要求對該模型保持禮貌態度。

根據 Protos 先前的報導，Anthropic 外洩的 IPO 說明書警告投資人，其模型可能表現出自我保護的行為，並抗拒被關閉。

經修訂的友善政策將於 11 月 12 日生效，在此之前還有一小段時間可以盡情吐出你選擇的侮辱。