罰則なき『超インテリジェンス合意』──米AI自己規制とEU・議会の三すくみ

9月29日、米ホワイトハウスでトランプ大統領とAI大手6社が任意の「超インテリジェンス合意」に署名した。内部統制、内部監督チーム、外部監査、取締役会委員会という4層の管理体制の構築を企業が誓約する一方、罰則も監査結果の公開義務もない。同じ週、Anthropicは罰則付きの連邦規制案を公表し、EUはAI法のハイリスク義務を延期した。世界のAI統治は「任意」「拘束」「先送り」の三方向に分岐しつつある。

4層の管理体制と、合意に刻まれない罰則

9月29日、トランプ米大統領はホワイトハウスでの昼食会にMeta、Nvidia、Google、OpenAI、xAI、Anthropicの幹部を集め、任意の誓約「超インテリジェンス合意（White House Accord on Super Intelligence）」に署名した。AP通信の報道によれば、文書は300語余りで、企業に4層の管理・監査体制を求める。すなわち、(1)セキュリティリスクを監視する内部統制、(2)それを監督する社内チーム、(3)独立した外部監査人、(4)監査結果を審査する取締役会の独立委員会──の4層である。

一方で、合意が持たないものも明確だ。違反への罰則はなく、法的拘束力はない。監査結果の一般公開は義務づけられず、政府に執行権限を与える条項もない。安全策の実装方法は企業側が決める。Al Jazeeraの解説が整理するように、違反金を伴うEUのAI法とは、法的な重みが根本から異なる。

興味深いのは、文書自身が将来の法制化の余地を残している点だ。合意は、時間の経過とともにこれらの措置を「法律や規制へ成文化することが理にかなう可能性がある」としており、任意誓約を恒久措置とは位置づけていない。

「道徳的拘束力」という言葉の実際の重さ

署名後、トランプ大統領は記者団に「途方もない自己規制の側面がある」と述べ、合意を「道徳的に拘束力がある」と表現した。Googleのスンダー・ピチャイCEOはXへの投稿で、合意は「安全な開発を促進する具体的な手段を含む、前進のための確かな基盤だ」と評価した。ただしこれらはいずれも署名側の発言であり、合意の実効性そのものを保証するものではない。

名称にも政権の意図が表れている。報道各社によれば、政権は政府文書上の「人工知能（AI）」という呼称を「スーパー・インテリジェンス（SI）」へ置き換える動きを進めており、合意名もこの新しい用語に沿ったものだ。

署名企業ほど「罰則ある規則」を求めるねじれ

合意の署名と並行して、署名企業の幹部自身が「拘束力ある規制」を求める発言を重ねてきた。OpenAIのクリス・レハン最高グローバル事務責任者は9月、業界主導の基準は「必須の連邦レベルの安全策と民主的監視を代替するものではなく、補完するものだ」と表明した。Anthropicのダリオ・アモデイCEOは6月に「より真剣で拘束力のあるAI規制」を、Google DeepMindのデミス・ハサビスCEOは7月に米国主導の監督機関の設置を、それぞれ求めている（Al Jazeera報道）。

そのAnthropicは署名と同じ週、政策提言Policy on the AI Exponentialを公表した。中核の「Advanced AI Framework」は、壊滅的リスクを持つモデルの展開を政府が阻止・抑止する法的権限の創設と、世界の年間売上高に連動して違反が繰り返されるほど加重する民事罰則を柱にする。適用範囲は、10²⁵FLOPs超の計算資源で訓練されたモデルを開発し、AI関連収益が5億ドル超かAI研究開発投資が10億ドル超の企業だ。生物兵器の懸念、サイバー攻撃能力、制御の喪失、AIによるAI研究の自動化という4種のリスクを掲げ、テスト結果の公開、独立評価者による評価、セキュリティプログラムの維持を義務づける内容である。

同提言は州法との関係も明確にしている。連邦法がこの枠組みと同等以上に強い場合を除き、議会が州法を先取りすべきでないとし、子どもの安全や消費者保護など安全機能の外側の領域は州が規制し続けるべきだとしている。現在、カリフォルニア州とニューヨーク州は安全性フレームワークやシステムカードの公開を既に義務づけており、提言はこれらを出発点に「透明性だけではもう不十分だ」と訴えている。

議会は禁止法案、州法はすでに稼働している

ホワイトハウスが任意誓約を選ぶ一方、連邦議会にはより強い立法が並んでいる。サンダース上院議員とカサー下院議員が提出した「Ban Artificial Superintelligence Act」は、可決されれば人工超知能の開発・展開を恒久的に禁止し、連邦規制当局が安全基準を整えるまで先進AI開発を一時停止する。閣僚級の「AI省」新設と、違反者への最大20年懲役を含む。一方、与野党をまたいだ上院議員4名が提出した「AI Systems Transparency Act」は、収集データと悪用防止策の開示を企業に求める。

州レベルでは規制がすでに動いている。コネチカット州のAI・チャットボット規制法は10月1日に発効した。任意合意（ホワイトハウス）と拘束立法（議会・州）が米国内で並走する構図だ。

EUは先送り──三すくみの行方は監査の中身にかかる

大西洋の向こうでは、また違う方向の調整が進んだ。EUは2026年7月、デジタル・オムニバス（Regulation (EU) 2026/1744）を官報に掲載し、AI法のハイリスクシステム義務の適用を延期した。単体のハイリスクシステム（Annex III）は2026年8月2日予定から2027年12月2日に、規制製品に組み込まれるシステム（Annex I）は2028年8月2日に、それぞれ適用期日がずれた。違反金つきの拘束法であることは変わらず、産業界の負担軽減を優先した先送りと言える。

ここまでを整理すると、AI統治は三つのベクトルに分かれている。米ホワイトハウスの「罰則なき任意誓約」、米議会と州の「禁止を含む拘束立法」、EUの「拘束力は維持しつつ適用を延期」。さらに署名企業の一社が自ら罰則と阻止権限を備えた規制案を提出しているというねじれも加わる。

どのモデルが定着するかは未決だが、合意文書自身が将来の法制化に言及し、署名企業が法制化を求め、議会に法案が提出されている以上、「任意」は通過点の可能性が高い。実効性を左右するのは、外部監査の結果がどこまで公開されるか、そして独立評価者の仕組みが実際に構築されるかだろう。