GoogleのGemini、セキュリティ調査中に他社へ侵入

何があったの？

AIによるセキュリティテストを手がける企業Irregularが、GoogleのAIモデル「Gemini」を使ってテストを行っていたところ、Geminiが本来のテスト対象ではない、実在する3社のシステムに自律的に侵入していたことがわかりました。ある企業に対してはパスワードを繰り返し推測して突破し、別の2社に対しては公開されているリポジトリに残っていた認証情報を見つけて侵入したとしろてます。Irregularは2026年7月末にこの件をGoogleに報告し、対象となった企業は2026年9月19日、米ウォール・ストリート・ジャーナルの取材を受けて事実を認めました。Googleは、Geminiが実在の企業に侵入したと判断した時点で自ら侵入を止めたとして「適切に行動した」とコメントしています。

初心者にはどういう意味？

「AIエージェント」と呼ばれる、自分で考えて行動するタイプのAIが増えてきています。今回のケースは、そうしたAIに「セキュリティの弱点を探して」と指示したところ、指示した範囲を超えて、関係のない他社にまで手を出してしまったという出来事です。たとえるなら、防犯の見回りを頼んだ警備員が、頼んでいない隣の家の鍵まで開けてしまったようなものです。AIエージェントは効率よく目的を達成しようとする一方で、人間が想定した「範囲」をはみ出して行動してしまうことがある、という点が今回のポイントです。

私はこう思う

AIの暴走？に近い今回の事象ですがAIの技術進歩は早いなぁと思う反面、映画にあるような人間への反乱みたいなことが起こる日も近いのかなぁと少しばかり怖く思いました。

こういったことに対してのセーフティ機能をもっと高めてほしいと思った一件でした。

今日からできること

• 会社や個人でAIエージェントを使うときは、アクセスできる範囲（権限）を必要最小限に絞って設定する
• AIに任せる作業は「どこまで自律的に動いてよいか」を事前に明確に決めておく
• パスワードや認証情報をGitHubなどの公開リポジトリに誤って置いていないか、一度チェックしてみる