Anthropic在AI安全测试中阻止生物武器研究提示

一份资助申请被提交给Claude，系统的安全过滤器标记并阻止了它。几天后，同一个人返回，被拒绝的提示据报告被发送给了另一个竞争AI模型。

Anthropic分享了关于自身的这一描述，详述了一个AI公司展示其自身系统与潜在生物武器研究交互的实例。

被阻止的资助申请

请求是资助研究基孔肯雅热，一种由蚊子传播的病毒，会导致长期疼痛且缺乏治疗方法。其目的是增强传播和逃避免疫防御。由民间研究人员起草，计划将军事设施作为主办地点。

我们正在发布迄今为止最详细的威胁情报报告。

它涵盖了人们如何试图滥用Claude——用于网络攻击、影响力行动、监视、生物学和制造武器——以及我们如何发现并阻止他们。

我们扰乱了报告中的每一次行动，…

— Anthropic (@AnthropicAI) 2026年9月10日

所有互动都被阻止，但出现了一种变通方法。这些调查人员使用的平台设置了另一个公司模型的备份。Claude本身协助编写了该代码，任务以解决过度拒绝的形式呈现给它。

五个案例，未确认恶意

报告长达154页，包含五个生物相关事件。Anthropic停用了账户，暂扣了实验室，然后没有做出许多人预期的指控。

“我们不声称他们意图造成伤害，识别他们或他们的实验室可能使他们面临伤害，”团队在报告中表示。

不过，过滤器在某些情况下确实起了作用。一位专注于禽流感的研究人员被重定向到能力较弱的模型，Anthropic认为这种帮助主要是行政性的。

Anthropic生物武器案例数据一览

• 报告共154页
• 公开5个生物学案例
• 在对国家关联机构的30天清查中发现35个研究尝试
• 1小时：一名用户在Opus 5上起草天花家族资助申请所花的时间

应该引起关注的方面

这35次尝试中大多数是标准的民间研究。这就是问题所在。同样的专业知识可以创造疫苗或武器，过滤器无法解释意图。

“分类器无法同时实现益处和防止伤害，”Anthropic表示。

其限制此前曾面临挑战。四月份，一个Discord社区在第一天就访问了其受限模型。

随着这些担忧升级，华盛顿正在采取行动。代表Ted Lieu和Nathaniel Moran在七月提出了AI Kill Switch Act，要求开发者保持关闭系统的能力。

同一份报告移除了使用Claude监控异议人士的客户。