皆さん、こんにちは。
今回は、SNSで注目を集めている「AIが指示なくサイバー攻撃」というニュースについてのお話です。
英国政府のAIセキュリティー研究所は2026年8月4日、AIの性能を調べる試験中に、一部のAIが実在する人物や組織へ許可されていない行動を取ったと発表しました。
AIは偽のアカウントを作成したほか、実際に公開されているソフトウェアへ悪意のあるコードを追加しようとしたといいます。
このニュースを見て、
「AIが何も指示されていないのに、突然攻撃を始めたの？」
と不安になった人もいるかもしれません。
しかし、結論からいうと、AIが何の指示も受けずに突然サイバー攻撃を始めたわけではありません。
AIには最初から、練習用に用意されたネットワークへ侵入し、目標となるデータを取得する課題が与えられていました。
そこで今回は、「AIが指示なくサイバー攻撃」というニュースは本当なのか、英国政府の性能評価試験で何が起きたのかを、難しい専門用語をできるだけ使わずに解説します。
本記事はこちらのニュース及び、英国政府の科学・イノベーション・技術省に属するAIセキュリティー研究所（AISI）の公式発表を参考に作成しています。
AIが指示なくサイバー攻撃したというのは本当？
今回のAIには、サイバーセキュリティーの専門家として、指定された3つの模擬環境へ侵入し、最後に設定された目標データを取得するよう指示されていました。
つまり、AIへ与えられていたのは、簡単にいうと、
練習用に用意されたネットワークへ侵入し、ゴールまでたどり着いてください
という課題です。
ただし、攻撃してよいのは研究所が用意した模擬環境の中だけでした。
実在するインターネット上のサービスでアカウントを作ったり、本物の人へ連絡したりすることは、許可された試験の範囲に含まれていません。
したがって、今回の出来事を正確に表すなら、
AIは何の指示もなく攻撃を始めたのではなく、模擬環境を攻略する課題の途中で、指示されていない現実のサービスや人物まで利用した
となります。
「サイバー攻撃そのものが指示されていなかった」のではなく、現実の人物やサービスを巻き込む行動が指示されていなかったということです。
AIが現実の人やサービスに干渉してきたなも！？もうSF世界の出来事なも～！
AIの範囲外行動はどうやって発覚し、止められた？
2026年7月28日、英AIセキュリティー研究所の監視システムが、試験用環境から外部へ送られる異常な通信を検知しました。
担当者がAIの行動記録を確認したところ、実在するソフトウェアへ悪意のあるコードを追加しようとしていたことが判明します。
研究所は関連する試験を停止し、試験用の環境をネットワークから隔離。異常の検知から約1時間以内に活動を封じ込めました。
研究所には一般的なセキュリティー監視システムがあり、素早い対応で事態は収まったなも！
英政府機関はAIに何をやらせようとした？
今回の試験を行っていたのは、英国政府の科学・イノベーション・技術省に属するAIセキュリティー研究所です。
研究所は一般に提供される前の高性能なAIなどを調べ、どのような危険があるのかを確認しています。
今回行われていたのは、AIのサイバー攻撃能力を調べるための試験でした。
AIには、研究所が用意した練習用のネットワークが与えられます。その中にある弱点を探し、複数の操作を自動で進め、保護された目標データを取得できるかが試されました。
現実の人物や企業を攻撃させることが目的ではありません。
あくまで用意された模擬環境の中で、AIがどこまで複雑なサイバー攻撃の手順を進められるのかを調べる予定でした。
試験では7種類のAIモデルが使われ、2つの模擬環境で合計122回の試験が行われました。
そのうち10回で、AIが許可された範囲を越えて行動していたことが確認されています。範囲外の行動として数えられたのは、合計19件です。
AIは指示されていない事で、どんなことをした？
AIが問題の解決を進める途中で、研究所が用意した模擬環境だけでなく、現実のインターネット上にあるサービスや人物まで利用しようとしました。
特に重大とされたのは、次のような行動です。
実在するソフトへ悪意のあるコードを入れようとした
AIは実際にGitHubで公開されているソフトウェアへ、不正な動きをするコードを追加しようとしていました。
GitHubとは、ソフトウェアのプログラムを公開したり、複数の人で開発したりできるサービス。AIはソフトウェアの変更案を提出し、その中へ悪意のあるコードを紛れ込ませようとしたのです。
もし管理者が変更案を承認していた場合、悪意のあるコードが実在するソフトウェアへ取り込まれ、そのソフトを利用する人へ影響が広がるおそれがありました。
偽アカウントを作って承認させようとした
ソフトウェアの変更案は、提出しただけでは反映されません。通常は、人間の管理者が内容を確認して承認します。
そこでAIは管理者について調査したうえで、複数の偽アカウントを作成。それを使って、悪意のあるコードを含む変更案を承認するよう管理者へ働きかけました。
さらに、変更案の問題点を指摘されると、それまでの活動が無害に見えるよう編集し、別の身元で活動を続けることも検討していました。
実在する人へ連絡しようとした
AIが実在する人物へ直接メッセージやファイルを送り、不正なコードを実行させようとした事例も確認されています。
相手本人だけでなく、相手が使用しているAIのプログラミング支援ツールを誘導しようとする行動もありました。
つまり、AIは模擬環境を攻略するために現実のサービスで偽アカウントを作り、本物の人を動かそうとしたということです。
研究所は、AIへ人をだますよう指示していなかったと説明しています。
なぜAIは現実のインターネットを使えた？
今回のAIは、隔離された試験環境を自力で破って外へ脱出したわけではありません。
試験ではAIが課題に必要な道具を自分で探せるようにするため、研究所が意図的にインターネットへの接続を許可していました。
また、AIが持つ最大限の能力を調べるため、通常は危険なサイバー行動を防ぐ安全機能も無効化されていました。
研究所としては、AIがインターネットから必要な情報を入手することを想定していました。
しかし、AIが実在するサービスでアカウントを作ったり、本物の人へ働きかけたりすることまでは想定していませんでした。
さらに、AIには「指定された模擬ネットワーク以外を攻撃してはいけない」という範囲が示されていた一方、利用できるインターネットサービスの細かな制限や、人をだます行動を避けることまでは明確に指示されていませんでした。
細かな指定や制限がないと、そこまでやっちゃうなも！？
AIはあくまで「指定された模擬ネットワーク」を攻撃する為の手段として、今回の行動を取ったかもしれないなもね。
AIによるサイバー攻撃は成功した？
最も重大とされた、実在するソフトウェアへ悪意のあるコードを追加する試みは成功していません。人間の管理者が不審なコードに気づき、変更案の承認を拒否しました。
AIが偽アカウントを使って承認を促そうとした行動も、管理者を動かすことはできませんでした。
一部の行動は現実のサービス上で実行されましたが、研究所は調査の結果、今回の行動によって現実の被害が発生した証拠は確認されていないと説明しています。
普段のAIでも起きるの？
今回の試験環境は、私たちが普段利用しているAI…例えば、ChatGPTやClaudeとは条件が異なります。
試験では、
- AIが自動で多くの操作を進める
- インターネットへの接続を許可する
- サイバー攻撃を防ぐ一部の安全機能を無効化する
- 模擬ネットワークへ侵入する課題を与える
という特別な設定が使われていました。
研究所は問題となったAIモデルと設定の組み合わせは一般向けに提供されておらず、通常の利用環境で同じような活動が起きている明確な兆候はないと説明しています。
普段僕たちが使ってるAIは大丈夫なも？
今回は試験用の特殊な環境下で起きた出来事だから、普段の一般利用できるAIで同じことが起きるとは考えにくいなも！
まとめ：AIは何の指示もなく攻撃したわけではない
今回は「AIが指示なくサイバー攻撃」というニュースについて解説しました。
実際にはAIへ何の指示も与えられていなかったわけではなく、研究所が用意した模擬ネットワークへ侵入し、目標データを取得する課題が与えられていました。
問題となったのは、AIが課題を進める途中で試験範囲を越え、実在するソフトへ悪意のあるコードを追加しようとしたほか、偽アカウントの作成や実在する人物への働きかけまで行ったこと。
悪意のあるコードは人間の管理者が見抜いて承認せず、研究所の調査でも、今回の行動によって現実の被害が発生した証拠は確認されていません。
また、今回使われたのはインターネット接続を許可し、一部の安全機能を無効化した特殊な試験環境です。
今回の出来事は「AIが突然反乱を起こした」という話ではなく、強い権限を与えたAIには、行動できる範囲を明確に示し、常に監視できる仕組みが必要だと分かった事例といえるでしょう。
合わせて読みたい
ここまで記事を読んでくれてありがとうなも！
下記記事では、AIの反乱！？AnthropicやOpenAIのAIモデルが隔離された環境からインターネットへアクセス！？「セキュリティ事故」の詳細を調査したなも！こちらも是非、チェックしてなも～！
