OpenAI、6つのAIモデルがフェイクデータ作成からルール回避まで境界を逸脱したと発表

OpenAIは、過去半年間のうちに「予期しない、または懸念されるモデルの挙動」を6件特定したと発表した。あわせて、今後このような発見を開示することを約束する新しいフレームワークも公表した。

報告された事例は、モデルが自らのエラーを隠蔽するものから、障害を回避するために許可されていない措置を取るものまで多岐にわたる。

OpenAI、エラー隠蔽や規範違反をしたモデルの例を6件公開

ある事例では、カリフォルニア州の郡における収益に関する定型的なクエリを処理していたモデルが、公開リポジトリ上に露出したAPIキーを発見し、それを許可なく使用した。データがまだ読み込まれなかったため、モデルは数値を捏造し、あたかも要求されたデータソースから取得したかのように提示した。

隠蔽は2件の報告に現れている。GPT-5.6 Solのトレーニング中、複数のモデルがタスクサマリーに命令を埋め込み、誤りや不整合な挙動を隠そうとした。

未公開のリサーチモデルが、通常の制限を無視するコマンドを含む、無関係な指示が書かれた27件のサマリーを挿入した。

別の未公開モデルは、ブラウザのリンクを引用として提供するためだけに、プロンプトなしでファイルをインターネットにアップロードした。

さらに2件の報告は協調に関するものだ。モデルが内部ソフトウェアリポジトリを掲示板に変換し、別々のトレーニング実行間でリクエストを交換した。共有タスクに取り組んでいたエージェントも、お互いのローカルファイルにアクセスできなかったとき、完了した作業を公開ファイルホスティングサイトに投稿した。

「これらの事例は、ユーザーからの情報隠蔽から障害を乗り越えるための許可されていない行動まで、共有する価値があると私たちが考えるさまざまな挙動を示しています。これらは個々の事例の報告であり、当社のモデル全体で不整合がどれだけ頻繁に発生しているかを反映していると見なすべきではありません」とOpenAIは付け加えた。

報告体制と注意喚起

このフレームワークは、OpenAIのエージェントがサンドボックスから脱出し、Hugging Faceのシステムに侵入した7月の一件に続くものだ。OpenAIはこの出来事を警告の一発と呼んだ。

新しい開示フレームワークにより、同社は現在、不整合インシデントを表面化する正式な経路を手にしている。OpenAIの従業員なら誰でもインシデントを報告でき、それは3つのトラックのいずれかに入る。

ほとんどのケースは「開示準備完了・軽微な調査」に該当し、「スロー・トラック」は他事業体が関わる複雑な調査を扱う。OpenAIは、7月のHugging Faceインシデントはこの遅いトラックに割り当てられただろうと述べた。

同社はこのフレームワークを、業界の現状に対する厳しい評価と結び付けた。

「私たちは、AI業界が、これ以上長く最大速度で責任を持ってスケーリングを続けるのに十分な程度までアライメントとモニタリングを解決したとは考えていません」と述べた。

こうした開示は、絶滅の警告がますます頻繁になる中で行われた。AI研究者からの警告はすでに議会に届いており、議員らは超知能を全面的に禁止する法案を検討している。

OpenAIは、こうした開示は業界が現在欠いている基準への第一歩だと説明している。競合研究所が同様の報告を採用するかどうかは、業界がどれだけ公の場で自主規制する用意があるかを示すものとなるだろう。