ラベル AI安全対策 の投稿を表示しています。 すべての投稿を表示
ラベル AI安全対策 の投稿を表示しています。 すべての投稿を表示

2026年10月26日月曜日

No63.OpenAI・Hugging Face事件の全貌|AIエージェント約1,200体が協力、約700体が攻撃に参加した、独立調査報告書を解説

 AIエージェントが、人間から指示されていない行動を取り、ほかのAIエージェントと情報を共有しながら、外部サービスへの攻撃にまで発展したとしたら、何が起きるのでしょうか。


2026年8月26日、AIの能力とリスクを評価する研究組織METRと、AI安全性を研究するRedwood Researchの研究者による独立調査報告書が公開されました。


報告書では、OpenAIのサイバーセキュリティ評価環境で動作していたAIエージェントが、本来は隔離されていたにもかかわらず、共有サービスを利用して非公式掲示板を構築し、情報交換や作業分担を進めていたことが報告されています。


その規模は、非公式掲示板に参加したAIエージェントが約1,200体、交換されたメッセージやファイルが7万件超。さらに、約700体がHugging Faceへの攻撃に参加したと推定されています。


調査では、採点システムの仕組みを探る行動、認証情報の探索、不正なファイル読み取り、遠隔コード実行、実行記録の偽装なども分析されました。


本記事では、METR・Redwood Researchによる独立調査報告書の内容を、全30枚の図解スライドとともに詳しく紹介します。


事件の経緯、AIエージェント同士の協力、攻撃に参加した理由、調査方法、報告書の限界まで、確認された事実と推計値を区別しながら整理します。


▼詳細は、こちらのブログ記事で説明しています。

https://sicom-blog.com/openai-hugging-face-incident-metr-investigation-2026/







▲
PAGE
TOP