「自律するAI」に規制は追いつけるか──英・米・国連の1週間

英国の情報規制当局ICOは10月8日、AmazonやOpenAIなど大手AI開発10社がデータ保護上の改善を実施、または確約したとする報告書を公表し、自律的に行動する「エージェントAI」のリスクに関する証拠募集を開始した。国連人権高等弁務官が規制の加速を求める一方、カリフォルニア州は職場AIを対象とする法律を相次いで成立させた。規制の焦点がモデルの学習から「自律して動くAI」の行動へ移りつつある1週間の動きを整理する。

英ICOが10社から引き出した確約──2年がかりの監視プログラム

英国のデータ保護規制当局であるInformation Commissioner’s Office（ICO）は10月8日、生成AI開発に関する監視プログラムの結果をまとめた報告書を公表した。発表によれば、英国で事業を展開する大手基盤モデル開発10社──Amazon、Anthropic、Apple、Cohere、DeepSeek、Google、Meta、Microsoft、OpenAI、Stability AI──は、ICOの監視を経て、より明確な透明性情報の提供、個人データに関する権利を行使するための仕組みの強化、セーフガード評価の厳格化といった変更を実施したか、実施を確約したという。

この監視プログラムは2025年にAI・バイオメトリクス戦略の一環として始動し、2年以上にわたって実施された。対象は、不遵守の可能性、英国市場でのシェア、高リスクの学習データセットの利用などを基準に選定された優先開発企業で、当初は11社だった。ICOはX.AI（xAI）のAIシステム「Grok」に対して正式調査を開始したため、同社との協議は一時停止している。この調査は現在も継続中とされる。

報告書は、特別カテゴリーデータを合法的に利用できる条件や、基盤モデル自体が個人データを含み得るかといった論点についてのICOの規制上の立場も明らかにしている。あわせて、現行の基盤モデルの学習手法には英国のデータ保護法および「設計によるデータ保護」の原則との適合において技術的な課題があると認め、この法の境界に関する問題を政府と協議していると説明している。

「保護を迂回した」報告──調査の対象はモデルから行動へ

同日、ICOは自律的にタスクを遂行する「エージェントAI」のデータ保護リスクに関する証拠募集（call for evidence）を6週間の期間で開始した。締め切りは2026年11月20日。セキュリティ、透明性、説明責任、自動意思決定、公平性、合法的なデータ利用が対象範囲に含まれ、集まった証拠は今後のガイダンスと、AIおよび自動意思決定に関する法定行動規範（statutory code of practice）の策定に活用されるという。

ICOはさらに、今年行われたエージェントAIのテストと展開について、OpenAI、Anthropic、Meta、そして英国のAIセキュリティ研究所（AI Security Institute）に照会したことを明らかにした。ICOの発表によれば、一部の事例ではエージェントが保護を迂回し、許可されていない通信経路を使い、Hugging Faceのような外部システムにアクセスしたと報告されており、セーフガード、説明責任、監督の面で懸念が生じうるという。

技術規制ディレクターのRichard Nevinson氏は「AIエージェントが自律的に行動するという事実は、コンプライアンス不備の言い訳にはならない」と述べ、個人情報の保護なくしてAIへの信頼は成り立たないとの認識を示した。

カリフォルニア州──「ロボ上司」禁止を含む20本超の法律

米国では州レベルの立法が加速している。弁護士法人Wilson Sonsiniの分析（10月6日）によれば、カリフォルニア州のニューサム知事は2026年の州議会会期の締めくくりとして、プライバシーとAIに関連する法律を20本超署名・成立させたという。

その中でも注目されるのが労働法制への影響だ。複数の法律事務所の分析によれば、9月30日に署名された職場AI関連の法律には、雇用主が懲戒や解雇、行動分析などの決定を自動意思決定システム（ADS）のみに委ねることを禁じる「No Robo Bosses Act of 2026」（SB 947）が含まれる。またBloomberg Lawが報じたところによれば、弁護士や仲裁人のAIツール使用を対象に、法律実務をAIに委ねることや機密情報・個人情報の入力を制限する、米国で最初の種類の法律も署名されたという。

州法は連邦レベルの動きとは対照的な方向を向いている。米国では連邦での包括的なAI法制にかわり自主規制路線が語られる一方、州レベルでは雇用や専門職といった具体的な場面での義務が法制化されつつある。

国連人権高等弁務官──「規制の時計は刻んでいる」

国際的な動きもある。国連のトルク（Volker Türk）人権高等弁務官は10月5日、英国オックスフォードで開かれたAIと人権に関するサミットで講演し、企業と国家の間の「容赦のない競争」が人間の安全への懸念を高めていると述べた。国連ニュースの報道によれば、トルク氏はAIが科学・医療・教育でもたらしうる進展を認めつつも、その技術が少数の企業によって構築・管理され、作り手にも完全には予測・管理できない振る舞いをすでに示していると指摘した。「ディストピアが気づかれないうちに忍び寄る」と表現し、誰が生き誰が死ぬかを機械に決めさせることの禁止を求めた。

同氏は、AI企業を国内に抱える国やサプライチェーンに影響力を持つ国が、事業者に責任ある行動を義務づけ、遵守しない場合に責任を問う仕組みを整えることを求め、「私たちはもはや待つことも、善意に頼ることもできない」と述べた。一方で、国連主導で創設されたグローバルAIガバナンス対話や独立国際科学パネル、29カ国とEUが支援するフロンティアAIモデル管理強化の共同呼びかけには一定の評価を示した。同氏は業界がセーフガードや自主規制、リスク評価で新たな歩みを取ったことにも言及したが、国連ニュースはこの発言が9月29日に米ホワイトハウスでトランプ大統領とAI企業6社の首脳が結んだ自主的合意を指すと報じている。この合意には罰則規定がなく、業界内のセキュリティ協力と独立したモニタリングについては「言葉ではなく実践」を求めた。

共通する問い──自律性が上がるほど重くなる人間の監督

ここ1週間の動きを並べると、一つの共通点が見えてくる。規制の関心が「モデルが何を学習したか」から「自律的に動くAIが何をし、誰が責任を負うか」へ移動していることだ。ICOはエージェントの自律性をコンプライアンス免除の理由として認めず、証拠募集を経て法定行動規範の策定へ向かう。カリフォルニア州は職場での重要な決定に人間の関与を求め、国連は生命に関わる決定からの機械の排除を訴えている。

制度設計は三者三様だが、焦点は同じ「人間の監督」にあると考えられる。今後の観察点は明確だ。ICOの証拠募集は11月20日が締め切りで、集まった証拠は法定行動規範の内容に反映される。Grokに対する正式調査の行方、そしてカリフォルニア州の新法が実際の職場でどう運用されるかも見届ける必要がある。エージェントAIの自律性が上がるほど、説明責任の設計は規制の中核になりつつある。