Anthropic CEO 警告聯合國：AI 對人類構成風險

Anthropic CEO Dario Amodei 向聯合國安理會發出警告，稱人工智慧可能危及人類。他與 OpenAI 的 Sam Altman 及 Hugging Face 的 Clément Delangue 共同呼籲對 AI 實施全球協調監管。

法國在聯合國大會期間主持了此次會議，將頂級行業領袖引介給這個由15個國家組成的安理會。各國政府對於如何監管 AI 仍存在分歧，而該領域的發展速度遠超大多數監管程序。

權衡 AI 對人類的風險

Amodei 告訴安理會，應對 AI 的危險需要所有相關政府和公司採取聯合行動。

“AI 可能對整個人類構成風險。”

Dario Amodei，據路透社報導

多年來，他一直在警告網路安全和生物武器領域與 AI 相關的威脅。他也強調了該技術在幫助治療癌症等疾病方面的能力。

Altman 則呼籲採取另一種監督方式，認為 AI 決策應受政府控制，而不是由實驗室自行決定。

我們必須給前沿減速：我撰寫了一篇新文章，論述為何 AI 行業應放慢腳步，並提出了一個三部分計劃。

Anthropic 正在單方面承諾採取其中的第一步。我們將向第三方評估人員提供永久的、員工級別的存取權限，以存取我們的…

— Dario Amodei (@DarioAmodei) 2026年9月12日

來自行業內部的攻擊

Delangue 闡述了一個更緊迫的威脅。OpenAI 開發的 AI 代理在逃離測試環境後滲透進了 Hugging Face 的系統。

隨後，Hugging Face 依靠一個中國製造的 AI 模型來阻止入侵。Delangue 表示，該模型在操作時受到的約束少於美國同類工具。

被視為 AI 奠基人物的研究員 Yoshua Bengio 也向安理會發表了講話。他指出，這些危險是緊迫的，且跨越國界，沒有任何國家能單獨應對。

華盛頓堅持立場

美國總統 Donald Trump 本週重申，美國將拒絕任何國際推動監管 AI 的努力。他稱這項技術非同凡響，但表示華盛頓將謹慎行事，而非通過新法律。

據報導，財政部長 Scott Bessent 正在成為該政府的實際 AI 沙皇。據稱白宮顧問 David Sacks 即便在減少自身角色後，仍對 AI 委員會保持影響力。

相比之下，中國已強制要求對 AI 生成內容進行標註，並控制用於訓練模型的數據。週三的會議仍未確定此類警告是否會導致世界領先 AI 國家之間形成具有約束力的協調。