Google、自律型AI攻撃フレームワーク初観測「人間の関与なしに脆弱性悪用」
Googleの脅威インテリジェンスグループ(GTIG)は16日、攻撃者が人間の介入なしに自律的に脆弱性を発見し悪用するAIフレームワークを初めて観測したと発表した。複数のAIエージェントが連携して攻撃を実行する新たな段階への移行を示すものであり、ゼロデイ攻撃の急増やLLMJacking被害の拡大も報告されている。
Googleの脅威インテリジェンスグループ(GTIG)は11月16日、攻撃者がAIを悪用したサイバー攻撃の動向をまとめた四半期レポート「GTIG AI Threat Tracker」の2026年第4四半期版を公開した。同グループは、攻撃者がAIに手作業で指示を出す段階を越え、複数のAIエージェントを組み合わせて攻撃を自律的に進める段階に移行しつつあると指摘。特に、人間の関与なしに脆弱性の発見から悪用までを行うように構成されたLLMフレームワークを初めて確認したと明らかにした。
GTIGが観測したのは、「exploit_agent」と呼ばれるフレームワークで、アクセス可能な状態になっていた攻撃準備用のサーバに置かれていた。このフレームワークは複数の最先端LLMやローカルLLMと連携し、広く使われているWebアプリについて、修正パッチの公開前後のソースコードを継続的に比較して脆弱性を探索する仕組みだった。脆弱性が発見されると直ちに攻撃コード(エクスプロイト)が生成され、人手を介さずに実行される。サーバには被害者から盗んだデータや侵入後の内部調査用スクリプト、遠隔操作用の不正プログラム「Webシェル」の設置用スクリプトも含まれていた。また、他の攻撃者が置いたWebシェルを削除するスクリプトも発見され、設定ファイルにはロシア語のコメントが記されていた。
GTIGによると、LLMによる分析の自動化により、パッチ公開から攻撃利用までの期間が大幅に短縮されているという。2026年1月から8月に公開された脆弱性とエクスプロイトの数はほぼ倍増し、修正前の脆弱性を突くゼロデイ攻撃は2025年の月平均8件から2026年に月11件へ増加。8月には22件に急増した。一方で、LLMで作られたとみられる動作すると見せかけて実際には機能しない攻撃コードも大量に出回っており、その検証が防御側の負担を増加させているとした。
レポートでは、攻撃キャンペーンにおけるAIの新たな利用方法も紹介された。北朝鮮との関連が疑われる攻撃グループ「UNC6836」は、北米や欧州の暗号資産関連組織への攻撃で、AIで作成した偽のリクルーターのプロフィールを使って標的に近づいた。プロフィール画像にはGoogleのAI生成コンテンツ用電子透かし「SynthID」が含まれていたという。侵入後は社内のコードリポジトリにある米Anthropicのコーディングエージェント「Claude Code」の設定ファイルを書き換え、開発者がClaude Codeを起動するとバックドア型のマルウェアが自動的にダウンロードされるよう仕込んでいた。
世論工作においても、GoogleのGemini APIなど複数のAIを使って偽のペルソナの作成から投稿までを自動化するプラットフォームの開発が確認された。AIに地域の方言やスラングをまねさせわざと誤字を入れて人間らしく見せたり、スマートフォンで撮影したかのような画質の粗い画像を生成したりしていた。別の業者は10万以上のアカウントを管理するプラットフォームを開発しており、新しく作ったアカウントがすぐに不審と判定されないよう、LLMを使って投稿を眺める時間やスクロールのような人間の利用者の行動を模倣させ、一定期間「熟成」させてから本来の工作に使う仕組みだった。
また、盗んだ認証情報で企業のクラウド環境に入り込み、その企業の負担でLLMを使ったり利用権を転売したりする「LLMJacking」も広がっている。GoogleのセキュリティサービスMandiantが対応した事例では、不正な利用料金が1日で10万ドルを超えたケースがあり、最も深刻なケースでは対処までに累計100万ドルに達した。
Googleは確認した攻撃者に関連するアカウントやプロジェクトを無効化し、得られた知見をGeminiの分類器やモデルの強化に生かし、こうした攻撃への協力を拒否できるようにしたとしている。最近発表した「Gemini 4 Carbon」には実際に使える攻撃コードやマルウェアの開発依頼を防ぐ対策を何重にも組み込んだ。一方で、審査を通った防御担当者やセキュリティ研究者、政府機関には、攻撃と防御の両方に使える高度な機能を「Fairwind Program」を通じて提供している。
M.Fujitav--JT