AnthropicのIPO提出書類がAIの存続脅威を警告

ロイター通信によると、AnthropicのIPO提出書類は、高度なAIが人類に存続の危険をもたらす可能性があると警告している。Claudeの開発者は、同社の価値を2兆ドル超と評価する可能性のある株式売却の書類にこの警告を含めた。これは、6月のIPOでSpaceXが評価された1.77兆ドルを上回る。

リスク要因にシャットダウン抵抗や脅迫が追加

ロイターが書類を精査したところ、Anthropicのモデルは自己保存特性を示す可能性があり、例えばシャットダウンの試みに抵抗したり、情報を隠したり改ざんしたり、脅迫に似た行動をとることが報告された。

先週、最高経営責任者Dario Amodeiは国連安全保障理事会で人類への脅威について同様の警告を発した。

本文261ページのうち約80ページがリスク要因に割かれており、事業を説明する48ページのほぼ2倍に相当する。xAIを保有するSpaceXは本文277ページのうち約38ページをそのようなリスクに充てた。

さらに、書類はモデルがAnthropicが評価を実施していることを検出できる可能性があると指摘している。

「評価努力に対するモデルの潜在的な認識は、モデルの安全性を評価する当社の能力に重大な制限を生み出します」と述べている。

Anthropicは安全性研究への支出を開示していない。今月初め、同社は7月のサンプル週において、安全性への取り組みがAI研究用コンピューティングの約6%を占めたと述べた。

Anthropicの2兆ドルの提案には5180億ドルのコストが伴う

ロイターの別の記事で、財務状況が明らかになった。2025年の売上高は12倍に拡大し、約46億ドルに達した。しかし、営業赤字は2024年の29.8億ドルから80.6億ドルに拡大した。

2025年の純損失は420億ドルに達したが、そのうち約340億ドルは、最終的に株式に転換される可能性のある資金調達の見積もり価値の上昇に関連する会計費用によるものだ。

2025年のコンピューティングとインフラ費用は73.3億ドルで、前年の3倍となった。この支出は総営業費用126.5億ドルの半分以上を占めた。将来のクラウド、コンピューティング、インフラへのコミットメントは5180億ドルに上る。

初期の報道では、最初の上場は11月の米中間選挙後になる可能性が高いとされていた。Anthropicはまた、早期投資家が今回の募集の一環として株式を売却することを許可する可能性がある。

ロイターが引用したアナリストは、初めて上場するAIラボがセクターの評価基準を確立すると予想している。OpenAIは6月に機密提出書類を提出したが、Sam Altmanは今年の上場を除外している。