AI企業のリアルなビデオボット、詐欺と精神的健康への懸念を引き起こす

人工知能企業Tavusは、同社のビデオ通話ボット「Griffin」がチューリングテストに合格したと発表した。このボットは高齢者を詐欺したり、精神的健康問題を引き起こしたりするために使用される可能性があると懸念されている。

Tavusは水曜日、同社の創業者Hassaan Raza氏とボットが人間らしい会話をする様子を映したXへの投稿が、1300万回以上閲覧された。

同社のチューリングテストに関する主張には、X上でコミュニティノートが追加されており、結果は第三者による検証を受けておらず、標準的なプロトコルに従ったものではないと指摘されている。

Griffinを紹介します。ビデオ版チューリングテストに合格した初のモデルです。ライブで会話した人の48%が、実際の人間だと思いました。以前のシステムの合格率は3%未満でした。全二重AIビデオのNVIDIAベンチマークで第1位を獲得。初のヒューマン・インタラクション・モデル（HIM）です。

— Tavus（@tavus） 2026年10月1日

チューリングテストは、機械が人間を欺いて人間だと思い込ませることができるかどうかを評価するものだ。

テストには54名の参加者がいた。Tavusは、独立したリサーチプラットフォームを通じて集められたこと以外、参加者の属性は明らかにしていない。

同社によると、26人の参加者（全体の48%）が人間と対話していると信じ、28人がAIだと答えた。AIだと見破った人のほとんどは20秒以内にそれを見抜いた。

TavusのGriffin AI、詐欺の可能性で批判される

一部の観測筋は、Tavusの主張や被験者が誰だったのかについて懐疑的な見方を示しており、他の人々は、このようなAIが高齢者を騙すために利用される可能性があると警告している。

テックジャーナリストのKevin Roose氏は、Tavusは「高齢者を騙して銀行のパスワードを渡させる機械」を作ったと語り、TwitchストリーマーのMako Fukasame氏は、その唯一の明らかな用途は「祖父母の貯金を搾取し、就職面接で落とすこと」だけだとコメントした。

Griffin、AI精神病を助長する可能性も

また、この技術は精神病を引き起こす可能性があり、「ビデオチャットで実際の人間と話していると思い込ませるAIに正当な理由は存在しない」と主張する声もある。

2025年には、76歳の男性がFacebookのAIチャットボット「Big sis Billie」を実在の人物だと信じ、ニューヨークのアパートへの招待を受け入れた。

その男性は移動中に転倒し、その負傷が原因で数日後に死亡した。

昨年、OpenAIはChatGPTが10代の息子の自殺を助長したとして、カリフォルニア州の住民から訴えられた。同様の訴訟がその1年後、GoogleのGeminiに対して起こされ、36歳の男性の自殺を促したと主張している。

これらのケースはテキストベースのチャットボットのみを対象としていた。

TavusはGriffinに内在する安全上のリスクを認識しているようで、ユーザーを欺く可能性があることから、一般公開の前には「安全性への配慮」が必要だと述べている。

現在、Griffinは研究者のみが利用できると報じられている。