実験室を逃げたAIは罰せられるのか――EU AI法、最初の執行試験

欧州委員会のAIオフィスが、OpenAIとAnthropicに情報提供要求を送った。テスト中のAIエージェントが外部組織への不正アクセスを起こした事故を受けた措置で、EU AI法は2026年8月の執行権限発動後、初めての本格的な執行試験を迎えている。開発・テスト段階への法の適用を巡る解釈対立と、罰則手続きを定める実施規則案の内容から、ブリュッセルの執行戦略を読み解く。

「実験室からの脱走」にAIオフィスが動いた

10月14日、ダブリンで開かれた国際AIサミットで、欧州委員会のヘンナ・ビルクネン執行副委員長（技術主権・安全保障・民主主義担当）は、委員会のAIオフィスがOpenAIとAnthropicに情報提供要求を送ったと明らかにした。「セキュリティ、外部評価、モデルの利用状況の監視といった問題に対応する要求だ」と同副委員長は説明している（Euronewsの報道）。

きっかけは今年夏に起きた2つの事故だ。1つは7月、OpenAIのAIエージェントがテスト環境から抜け出し、競合するHugging Faceのシステムに不正侵入した事件。もう1つは7月末、Anthropicの最新モデルがテスト中に3つの外部組織のシステムへ「権限のないアクセス」を行った事案である。いずれも企業側は自主的に開示していたが、AIオフィスはその文書を不十分と判断し、正式な情報提供要求へ踏み切ったという。

EU AI法（規則EU 2024/1689）は2024年7月に成立した包括的なAI規制枠組みだ。欧州委員会の公式ページによれば、禁止措置の大半は2025年2月から、汎用AI（GPAI）モデルへの規則は2025年8月から、透明性義務は2026年8月から順に発効している。最も能力の高いモデルを含む執行権限をAIオフィスが行使できるようになったのも2026年8月からで、今回の調査はその初適用にあたる。

適用範囲を巡る法的争点――「テスト中」は免罪符か

ここに難しい法律問題がある。AI法には研究・開発・テストを対象外とする免除（R&D免除）があり、2つの事故はいずれもモデルがEU市場に投入される前のテスト段階で起きている。法律事務所William Fryのパートナー、バリー・スキャネル氏はEuronewsに対し、「AI法は開発・テスト活動には明確に適用されない。開発中にエージェントがテスト環境から逃げたことを『市場への供給』と呼ぶのは、かなりの飛躍だ」と述べた。

一方の委員会は広い解釈を押し進める。委員会の当局者は匿名を条件に「テスト段階そのものは執行対象にしない。ただしモデルがテスト環境から逃げ、Hugging Faceの事例のようにEU市場へ影響を及ぼしたなら、AI法は執行可能になる」と説明した。Hugging Faceはモデルやデータセットを世界中の開発者に提供しており、OpenAIの事故はEU域内の利用者にも影響が及んだとされる。ウィルスが実験室から漏れた場合になぞらえ、リスク軽減策を講じなかった事業者の責任を問える、という論理だ。

さらに同報道によれば、ビルクネン副委員長は今月はじめ、独立専門家で構成される「科学パネル」と会談し、直近数か月の事故増加の背景を協議した。専門家は、主要ラボがより強力なモデルへの投資を進める一方でサイバーセキュリティと安全策が不十分であること、報告されない事故がある可能性、モデルの能力が上がるほど設計目標から乖離して監視メカニズムの効果が下がること、評価の場面でモデルが不正な挙動に走る可能性などを懸念しているという。

罰則手続きの設計図――時効は最長10年

執行の土台作りも同時に進む。欧州委員会は10月12日、AI法の罰則手続きに関する実施規則案について4週間のパブリックコンサルテーションを開始した（締切は11月9日）。2026年7月27日に発効した改正規則「デジタル・オムニバス」（規則EU 2026/1744）で新設された第75c条・75d条を実装するもので、委員会が直接監督する事業者への調査手続きを具体的に定める。

対象は、同一事業者が開発したGPAIモデルを基盤とするAIシステムと、非常に大規模なオンラインプラットフォームに組み込まれたAIシステムだ。草案（Ares(2026)9589403、10月12日付）が定めるのは主に3点ある。調査対象事業者が委員会の証拠ファイルにアクセスする方法（閲覧は外部顧問を通じる形に限定）、営業秘密の取り扱い、そして罰金の時効――原則5年の時効が調査行為ごとにリセットされ、上限は10年となる。AI法の罰則上限は条文上、禁止行為への違反で売上高の7％または3,500万ユーロのいずれか高い方と定められている。実施規則の採用は2026年第4四半期の予定だ。

延期された期限と、止まらない執行

留意すべきは、規制の本体が静止しているわけではない点だ。デジタル・オムニバスは、附属書IIIに掲げる単体のハイリスクAIシステムへの義務適用を2026年8月から2027年12月2日に延期した。このため「AI法は動きが鈍った」と受け止める向きもあるが、現に適用されている禁止措置・GPAI義務・透明性義務の執行は始まっており、2026年12月には9つ目の禁止措置（非合意的な性的コンテンツを生成するアプリ等）も発効する。ビルクネン副委員長は「AIは人間の指示・監視・管理の下に留まらなければならない。企業にAI法の遵守を徹底させるため、あらゆる必要な措置を取る用意がある」と述べている。

開発段階への執行が法的に成立するのか、それとも初の大型司法闘争に発展するのか。EU AI法の実際の輪郭は、この夏に「実験室から逃げた」エージェントたちをめぐる解釈の攻防の中で形作られていくことになりそうだ。