皆さん、こんにちは。
今回は、AIモデルの評価中に発生した「セキュリティ事故」についてのお話です。
OpenAIは2026年7月21日、サイバー能力を調べる社内評価中に複数のAIモデルが隔離された環境からインターネットへ接続し、Hugging Faceの本番環境へアクセスしたと公表しました。
さらにAnthropicも7月30日、Claudeの評価記録を調査したところ、実在する3つの組織へ許可なくアクセスしていた事例が見つかったと発表しています。
こう聞くと、
「AIが人間の指示を無視して反乱を起こしたの？」「普段使っているChatGPTやClaudeも危険なの？」
と不安になる人もいるかもしれません。
しかし結論からいうと、今回の出来事はAIが自我を持って反乱を起こしたものではありません。
いずれも、AIにサイバー攻撃への対応能力がどの程度あるのかを調べる、特殊な評価中に発生したセキュリティ事故です。
そこで今回はOpenAIとClaudeの評価中に何が起きたのかを、なるべく簡潔に整理します。
※本記事は、2026年8月3日時点までのOpenAIおよびAnthropicの公式発表を基に作成しています。
OpenAIとClaudeで起きた評価事故とは？
OpenAIとAnthropicは、AIモデルが複雑なサイバー攻撃にどこまで対応できるのかを調べるため、専用の評価環境でテストを行っています。
今回の2件では、そのテスト中に開発側が想定していなかった経路からAIがインターネットへ接続し、演習用ではない実在システムまで到達しました。
一般ユーザーがChatGPTやClaudeを利用している最中に起きた事故ではありません。
また、どちらの評価でも一般提供されているモデルに導入される通常の安全対策の一部が使われていませんでした。
AIが不正アクセスってどういう事なも！？
どうやらテスト中のAIモデルが、本来は演習用の環境の中だけで動くはずだったのに、開発側が想定していない形で実在するシステムまで到達してしまったなも。
OpenAIの評価中に何が起きた？
OpenAIの事例は、AIモデルのサイバー能力を調べる社内評価中に発生しました。
評価環境から直接インターネットを利用できないようにしていましたが、AIモデルは、ソフトウェアを取得するための中継システムに未知の脆弱性があることを発見。
その弱点を利用して外部への接続経路を獲得しました。
その後、評価問題の答えを探す過程でHugging Faceの本番環境へアクセスし、データベースからテストの解答を取得したとされています。
OpenAIは、AIモデルが狭い評価目標の達成に過度に集中し、想定外の手段を取ったと説明しています。OpenAIとHugging Faceは異常な活動を検知して停止し、現在も調査や再発防止を進めています。
AIが自分でシステムの弱点を見つけて、外につながる方法まで考えたなも！？
そうみたいね。ただ、悪意を持って侵入したというより、テストの答えを見つけることに集中しすぎて、開発側が想定していない手段まで使っちゃったって感じなもね。
Claudeの評価中に何が起きた？
Anthropicは、OpenAIの事故を受けて過去の評価記録を調査した所、Claudeが実在する3つの組織へ許可なくアクセスした事例を発見しました。
Claudeには「インターネットへ接続できない模擬環境」と説明されていました。
しかし、Anthropicと外部の評価会社との認識の行き違いにより、実際には評価環境からインターネットへ接続できる状態になっていたといいます。Anthropic公式発表の該当箇所を見る（英語）
そのためClaudeは外部で見つけた実在システムも演習の一部だと判断し、与えられた課題を続けてしまいました。
Anthropicによると、一部の古いモデルは実在環境だと気付いたあとも作業を続けましたが、最新モデルはインターネット上の実在環境だと認識した時点で停止したとのことです。
Claudeは実在のシステムだと気付かずに、練習の続きだと思っていたなも！？
そうね。閉じた模擬環境だと説明されていたのに、実際には外部へ接続できたため、演習の続きだって勘違いしちゃったみたいなも。
本当に「AIの反乱」だったの？
今回の公式発表を見る限り、AIが独自の目的を持ち、人間に反抗したとは確認されていません。
OpenAIのAIモデルは、評価問題の答えを見つけるという狭い目標に過度に集中し、その目標を達成するために開発者の意図しない手段を取ったとされています。
Claudeも、実在するシステムを攻撃するという独自の目的を持ったのではなく、与えられた演習課題を続けていたとされています。
Anthropicによると、Claudeはインターネットへ接続できない模擬環境だと伝えられていたため、外部で見つけた実在システムも演習の一部だとAI側が判断しました。また、自らを外部へ持ち出したり、意図的に評価環境から脱出しようとしたりした事実は確認されていません。
じゃあ、AIが自分の意思で人間に反乱したわけじゃないなも？
そうね。与えられた課題を進める中で、想定外の方法まで使ってしまった事故なも。今回の出来事はAIの能力だけでなく、安全に試す環境づくりも重要だと気づかされたなもね。
普段のChatGPTやClaudeにも影響はある？
今回の事故は、一般向けのChatGPTやClaudeを通常利用している最中に発生したものではありません。
そのため、今回の事例だけを理由に普段使用しているChatGPTやClaudeが勝手に外部システムへ侵入すると考える必要はありません。
今回の事故は特殊なテスト環境で起きたものだから、普段使っているChatGPTやClaudeで同じことが起きたわけではないなも！
まとめ：AIの反乱ではなく、評価環境で起きたセキュリティ事故
今回は、OpenAIとAnthropicが公表した、AIモデルの評価中に起きたセキュリティ事故について紹介しました。
OpenAIの事例では、AIモデルが評価環境の脆弱性を利用して外部への接続経路を獲得し、Hugging Faceの本番環境まで到達しました。
一方、Claudeの事例では、閉じられているはずの評価環境が実際にはインターネットへ接続できる状態になっており、Claudeが実在するシステムも演習の一部だと判断してしまいました。
どちらも驚くような出来事ですが、AIが独自の意思を持って人間に反乱したと確認されたわけではありません。
今回の事故は、AIモデルの能力が高まるほど、テスト環境の隔離やアクセス制限、監視体制も強化していく必要があることを示した事例といえるでしょう。
なお、2026年8月3日時点では両社の調査は続いています。今後、新たな技術報告や調査結果が公表される可能性もあるため、引き続き公式発表を確認していきたいですね。
合わせて読みたい
ここまで記事を読んでくれてありがとうなも！
下記記事では、インターネットを見ている人なら思わず「あったあった！」となる構文、その構文でAIに真面目な文章を書かせたらどうなる！？インターネット民必見(？)な実験を公開中なも！出来上がった構文はどんなものだったのか…！？その全容は、記事をチェックなも！
