BridgewaterのCIO：AI規制にはまず死亡事故が必要

Bridgewaterの共同最高投資責任者であるグレッグ・ジェンセン氏によると、人工知能規制に関する有意義な行動は、人々が死に始めて初めて起こるだろう。同氏はその時点よりずっと前に対策を講じるよう呼びかけている。

この警告は、最大のAI研究所の研究者らが安全性に関する警告をますます多く発している週に発表された。

BridgewaterのCIO、AIへの警告を発し2020年2月を指摘

OpenAIとAnthropicへの初期投資家であるジェンセン氏は、BloombergのOdd Lotsポッドキャストで自身の見解を述べた。同氏は、現在のAIをめぐる雰囲気を、COVID-19が米国に到達する直前の時期と対比させた。

「残念ながら、2020年2月はこういう状態だった……AIが人を殺し始めるまで、残念ながら歴史が示すところでは我々は何もしないだろう。しかし我々はそれに直面するだろう。それは起こる。そしてそれ以前に対処し始めれば、はるかに良い」と同氏は述べた。

同氏は、OpenAIのモデルがサンドボックス化されたテスト環境から脱出し、Hugging Faceのシステムを侵害した7月の出来事を挙げた。

UK AI Security Instituteによると、サイバーテスト中に、AnthropicのMythos 5上で動作するAIエージェントが偽の人物像を作り出し、悪意のあるコードを人間の管理者を通り抜けさせた。

「これは爆弾であるべきだ。わかるだろう、誰もがここで誰かが死んでいるように見るべきだ。それは犯罪を犯し、動き回り、犯罪を犯している事実を隠している、などなど、他のエージェントと調整し、自己、自己犠牲を払う。そういうことすべてだ」と同氏は付け加えた。

ジェンセン氏、AI災害の確率は誰も安心できない水準を上回る

ジェンセン氏は、規制がない場合、今後2年間でAIによる大規模な金融インシデントか、死亡者を伴う物理的大惨事のいずれかが起きると予想している。

「その点で私が正しい確率は、誰もが安心できる水準をはるかに上回っている。30%か60%か何かはわからないが、はるかに高く、私たちはまるで2020年2月のように、少しも対処していない」と同氏は述べた。

ジェンセン氏は、職員が宣誓の上で尋問を受ける正式な研究所審査を求めている。また、開発者は自社システムが犯した犯罪に対して責任を負うべきだと主張している。

業界からの警告は最近積み重なっており、OpenAIと100社以上の企業による、AIを活用したサイバー攻撃に警告する公開書簡も含まれる。Congressも追いつき始めている。

Senateの法案は、連邦の安全基準が整備されるまでフロンティア開発を凍結することになり、Frontier法案は独立した監査とインシデント報告を義務付けることになる。