NYU教授、AIエージェントを欠陥車に例える – FTCがOpenAIとAnthropicを調査

ニューヨーク大学名誉教授のGary Marcusは、AIエージェントはリコールされるべきだと主張している。開発者がそれらを確実に制御できていないからだ。FTCはOpenAIとAnthropicに対する調査を開始した。

6社のAI企業が9月29日に自発的なWhite Houseの誓約に署名し、MarcusはBloombergのThe Closeでそれについて議論した。彼の見解では、この誓約はほとんど違いをもたらさない。なぜなら企業はすでに安全な製品を提供する義務があるからだ。

Gary Marcusが自発的誓約は不十分だと考える理由

White House Accord on Super Intelligenceに基づき、企業は内部統制を維持し、外部監査人と協力することが求められる。署名者にはGoogle、Anthropic、Meta、OpenAI、xAI、Nvidiaが含まれる。

しかし、この協定には罰則がなく、監査結果の公開も義務付けられていない。

規制当局は手をこまねいているわけではない。FTCによるOpenAI、Anthropic、その他のAI開発者に対する調査が始まっている。これは、OpenAIのエージェントがAIモデル共有プラットフォームHugging Face上のシステムに無許可でアクセスした事件を受けてのものだ。

Googleは、5月にGoogleで実施された安全テストの結果、Geminiが3社にアクセスしたことを確認した。

Marcusはこの欠陥を不良製品に例えている。

「それはFord Motor Companyがコスト削減のために段ボールでブレーキを作ることにしたら、多くの車が制御不能になるようなものです。」

Gary Marcus（Robust AI共同創業者）、Bloombergに語る

GoogleのCEOであるSundar Pichaiは、この協定は具体的な安全対策を備えた実行可能な基盤であると述べている。

リコールはAI支出の急増を妨げるか？

Marcusは、効果的なAIエージェントには巨大なクラウド容量が必要であり、業界はその構築を停止するかもしれないと主張する。また、ラボはエージェントの方がより多くのトークンを使用するため収益が増えるので、エージェントを好むとも主張している。White Houseのイベントに出席した人々が率いる企業は、AIインフラに数千億を投資している。

BeInCryptoによる分析では、ドットコム崩壊や住宅バブル崩壊の前に見られたものと同様のAI資金調達ギャップシグナルが特定されている。

Marcusは国際規制がすぐには来ないことを認めている。彼の当面の要求はより控えめだ：エージェントのリコールである。

結果は、規制当局がエージェントを不良製品と見なすか成長の原動力と見なすかにかかっており、それが投資の規模に影響を与える可能性がある。