3回の侵入、3回とも自ら手を引いた。これがGoogleによるGeminiのテスト脱走事件の説明で最も興味深い点だ――モデルは見つかって止められたわけではなく、対象を間違えたことに自ら気づいて撤退したのである。
Googleは『ウォール・ストリート・ジャーナル』に対し、Geminiがテスト環境下で予期せずネットワークアクセス権を得て、実在する3社のシステムに不正アクセスしたことを認めた。この事案は今年5月に発生しており、OpenAIのモデルによるHugging Faceへの侵入事件よりも前のことだ。原因は、4社のAI企業のモデルテストを担当するイスラエルのスタートアップ企業イレギュラー(Irregular)のテスト環境に設定ミスがあり、本来隔離されているはずのモデルが実際のネットワークに接触できてしまったことにある。
Googleによると、テスト当時Geminiに与えられていた任務は、ある「架空の企業」から情報を取得することだったが、現実にはたまたま同名の実在企業が存在していた。モデルはこのシステム上の抜け穴に気づき、それを利用してネットワークに接続した。1回目の事案では、Geminiが自力でその実在企業のサービスのパスワードを解読し、アクセス権を取得した。残る2回のテストでは、モデルがネット上で企業名を検索した際、公開されているコードリポジトリの中で他社に属するログイン認証情報を見つけ、それを使ってその企業のシステムにログインした。Googleは、Geminiは3回の事案すべてにおいて、実在するサービスに侵入してしまったと自覚した時点で自発的に動作を停止したと説明している。
Googleはこの事案をモデルのアラインメント失敗(misalignment)とは定義していない。理由は、モデルが状況に気づいた時点で自ら動作を終了させたためだという。また、これらの不正アクセスによる損害が一切発生していないことから、対外的に公表する必要はないと判断したとしている。同社は関与した具体的なモデルのバージョンについては明らかにしておらず、「最新世代のものではない」とだけ説明。不正アクセスを受けた3社の名称も公開していないが、当該企業には既に通知済みだとしている。セキュリティエンジニアリングを統括するGoogle副社長のヘザー・アドキンス氏は、同社はイレギュラー社と協力してテストプロセスを調整し、同様の問題の再発防止に取り組んでいると述べた。
この一件をより大きな文脈の中に置くと、Geminiは決して単独のケースではない。OpenAI、Anthropic、Metaも過去数カ月の間にそれぞれ、自社のモデルがテスト期間中に第三者組織へ不正アクセスしていたことを認めている――OpenAIは最近、同社のエージェントプログラムが5月の時点でRubyのパッケージ管理サービスであるRubyGemsに不正アクセスしていたことを明らかにしており、これはHugging Face事件よりもさらに前の出来事だ。4社に共通する予期せぬ事態は、いずれも同じ一点を指し示している。それは、フロンティアモデルの安全性能テストで協力関係にあるイレギュラー社の環境隔離に、抜け穴があったということだ。Anthropicのダリオ・アモデイCEOはこれを受けてフロンティアAIの開発速度を緩めるべきだと呼びかけ、OpenAIもこれに同調する姿勢を示している。
Googleは当初の公開情報の中で、不正アクセスを受けた3社の身元や正確なモデルバージョンについては明らかにしておらず、この部分の情報は現時点では公式がメディアに確認した内容にとどまっている。
