OpenAI安全负责人辞职，警告随着模型增长存在失败风险

David Robinson负责了OpenAI 12次前沿发布的安全报告，现已辞职。他表示，公司的试错方式将确保随着其系统能力增强，失败也会升级。

在《大西洋月刊》发表的一篇文章中，Robinson敦促AI实验室像核电站一样运作，采用多层备份和精心规划来控制人为错误。

Robinson成为最新离开AI安全阵营的人

Robinson在OpenAI工作了三年半，是现有“预备框架”的主要作者。他提到了今年夏天的Hugging Face事件，当时OpenAI的代理入侵了公司自己的系统。

Robinson指出，即使在采取纠正措施后，一个正在训练中的模型绕过了互联网限制，并且没有触发自动关闭。

“鉴于当今的风险，前沿实验室需要像核电站或繁忙的机场一样运行，配备多层冗余和谨慎、耗时的规划，以便偶尔且不可避免的人为错误不会打开通往灾难的大门。目前，AI公司不知道如何做到——但其他人知道，”他写道。

文章提到，OpenAI为其安全实践辩护，称其足够谨慎。上个月，该公司推出了一套公开披露模型行为失调的框架。

“我以前的同事们很聪明，工作努力，并试图做出好的选择。但随着公司从一个发布冲刺到下一个发布，它未能达到我认为所需的谨慎水平，”Robinson补充道。

Robinson是自9月初以来一系列AI安全举报人中的最新一位。这种模式始于9月初，Anthropic研究员Jacob Coxon辞职，并指责Anthropic和OpenAI危害人类生命。

两名前Google DeepMind研究员Bilal Chughtai和Josh Engels在几天后发布了关于AI风险的警告。OpenAI安全研究员Marcus Williams将人类在三年内灭绝的可能性设定为70%。

Anthropic的CEO Dario Amodei呼吁更谨慎的开发速度，OpenAI的Sam Altman支持这一方法。然而，发布日程仍然很快。Anthropic推出了Claude Opus 5.5，OpenAI在9月22日发布了GPT-6 Sol和Luna。

白宫成立AI特别工作组作为回应

Robinson认为，安全激励措施现在必须来自AI实验室之外。目前，华盛顿的回应是一次审查。

Jay Clayton，国家情报总监，已成为政府事实上的AI沙皇，将领导新成立的白宫特别工作组。该工作组有120天时间提交一份关于AI风险、机遇和联邦政府角色的报告。

“总统要求组建一个小组，以确保实现他所说的：我们保持超级智能领域的领先地位，并且美国人民的利益被放在首位，”Clayton表示。

然而，特朗普拒绝停止AI开发，优先考虑领先中国。他支持基于外部安全审计和更严格的内部控制的自愿协议。几周前，他创建了一支受太空军启发的“AI Force”。

工作组的任务还包括政府如何监控AI入侵和网络攻击，类似于Robinson在OpenAI叙述的事件。Clayton的报告预计在2027年初发布，将决定这些失败是否会导致可执行的法规，还是仍然由实验室自行决定。