EUの同意のない性的AI生成禁止は、誰に何を求めるのか
2026年12月2日から適用される改正AI法の対象・同意・予防措置と、生成の規制とは別に確認する投稿の通報・削除申立てについて
EUのAI法改正の同意要件と、提供・利用の禁止条件を読む。発効と適用開始、生成の表示と同意、DSAの通報と削除を区別し、予防から本人の情報保護・救済への到達までを考える。
ざっくり言うと
- 改正の発効と新たな禁止の適用開始は別の日である
- 提供と利用の条件を分け、生成の表示を同意へ置き換えない
- 通報の受領、削除、本人の支援への到達を別に確かめる
サムネイルはAI生成のイメージ画像であり、実在の被害者、被害素材、法的な手続きや認証を示す写真ではない。
本記事はEUの公開資料に基づく一般情報であり、法的アドバイスではない。個別の適用や手続きは、対象国の法制度に詳しい弁護士等に確認する必要がある。
何が起きているのか
同意の要件と、成立・発効・適用開始を分ける。
本人が同意していない性的な画像をAIで作ったとき、「本物ではない」と説明すれば問題はなくなるのだろうか。EUの改正は、生成物が事実かどうかだけでなく、誰を描き、何に同意を得たかを問う。考えるべきなのは生成を防ぐ条件と、既に広がった内容への対応を、本人が使える支援へどうつなぐかである。
は、AI法を改正する制度の簡素化措置が2026年7月27日にしたと公表した。ただし、新たな性的生成の禁止が同じ日に適用されたわけではない。では、この禁止のは2026年12月2日である。成立、発効、各規定の適用開始を分けて読む必要がある。
は、特定できる本人の性的な部位や行為を描くリアルな画像、動画、音声などを、本人の同意なく生成・加工するAIを扱う。第5条は、同意が自由な意思に基づき、対象が特定され、十分な情報を得た上で、曖昧でなく明示されることを条件とする。その生成・加工への同意であり、元の写真を公開したことを、そのまま別の性的な画像の作成への同意と扱うことはできない。
児童性的虐待に関する素材などの生成・加工も、別の追加条文で扱われる。本人の同意だけですべての素材が許されるという説明は適切ではない。一方、成人の性的な表現が一律に禁止されたと読むこともできない。対象と条件を確かめず、広い「性的コンテンツ」という見出しだけで制度を理解すると、何を防止すべきかが曖昧になる。
なお、第5条第1b項（外部サイト、新しいタブで開きます）は、描かれた親密な部位の露出を増やさず、性的な行為の内容も変えない加工を、この追加禁止における加工から除いている。画像編集を全て同じ行為として扱わず、何が変更されたかを確かめる必要がある。
新たな禁止の適用を待つ間にも、投稿内容の違法性を扱う他の法や、プラットフォームの対応を定める制度は存在する。12月まで何もできないとも、改正が発効したので全件削除されるとも言えない。生成と流通、その後の相談を別々に確かめたい。
対象には音声も含まれるため、顔が写った画像だけを確認する説明では足りない。識別できる本人と、対象となる性的な内容を、条文の条件に沿って確かめる必要がある。見た目が本物らしいかと、本人がその内容へ同意したかは別の問題であり、架空と表示するだけで確認を終えないことが大切だ。
背景と文脈
提供と利用、生成の表示、投稿の違法性を区別する。
AIの提供と利用では、禁止条件が異なる
第5条は、AIを市場へ出したりサービスとして提供したりする場合と、AIを使う場合の禁止条件を分ける。AIを提供する場合は、問題となる生成・加工を目的としたAIが対象になる。汎用のAIについても、設計や機能からその結果を予見でき、重大な技術的変更なしに再現できる場合に、妥当で十分な防止・悪用修正の対策がないことも、禁止の条件になる。
条文は、予見できる悪用を踏まえて生成を防ぎ、観測された悪用や報告された悪用を修正する措置を求める。利用規約へ「禁止」と書いたことだけで、この条件を満たしたと決められない。ただし、予見可能性、再現性、対策などの条件を省き、性的な結果が一度出たら提供者がすべて違法だとすることも避ける必要がある。
対策を検討する際には、実際の人物の被害素材を集めたり、禁止対象の内容を作って見せたりする必要があると決めない。安全な検証方法で確認できる範囲と、専門の判断が必要な範囲を分けたい。対策を導入した日、修正の担当、報告を受けた後に確かめる内容を残すことは、継続する運用を考えるための一案になる。
AIを使う場合は、そのような素材を生成・加工する目的でAIを利用する場合が対象になる。提供者と利用者の役割が違えば、確認すべき行為も違う。写真編集や創作という名目だけで判断せず、対象となる本人、生成・加工の内容、その目的を確かめたい。個別の行為が禁止に当たるかは、実際の条件と適用される法から判断する必要がある。
AIの提供
- 問題となる目的
- そのためのAI
- 汎用AIの悪用
- 予見と再現性
- 対策
- 防止と悪用修正
AIの利用
- 使う目的
- 対象素材の生成
- 本人
- 特定可能な人
- 同意
- その生成への同意
改正後の第5条をもとに筆者整理。提供には大幅な技術的変更なしの再現と、妥当で十分な対策の条件がある。児童性的虐待素材等には別の規定があり、この図だけで許可・禁止を判断しない。
AI生成の表示は、同意の代わりにならない
公式日程では、AI法第50条の透明性に関する規定は2026年8月2日から適用される。合成した内容を扱うAIで、同日より前に市場へ出されていたものの提供者には、第50条第2項へ対応する移行期限が12月2日とされる。すべての透明性義務が12月まで延期されたという意味ではなく、新しい禁止の適用日とも別の理由で定められている。
生成された内容だと識別できるようにすることと、その本人が生成を認めたことは違う。「AI生成」という表示があっても、同意なく本人を性的に描く行為が許されるわけではない。また、表示を消さなければ被害が生じないと考えることもできない。提供者は、表示への対応と生成の防止を、それぞれの規定に沿って確かめる必要がある。
投稿の違法性と、対応する手続きも分ける
は、違法な内容の通報と救済の方法を説明する。違法に当たる内容は各国の法律によっても異なるため、成人の同意のない性的画像について、EU全域で刑罰や削除要件がすべて同じだとは言えない。AI法の生成禁止と、投稿を扱う法の条件を混ぜないことが大切だ。
同じ画像についても、生成した人、AIを提供した人、投稿を受け付けたサービスを区別する必要がある。相談した窓口が担当する範囲と、他へつなぐべき内容が分かれば、対応を頼む相手を調べられる。EUの制度を日本の事業者や利用者にそのまま当てはめず、事業と利用の場所、対象となるサービスや行為を個別に確認したい。
構造を読む
防止から判断と相談へつなぎ、本人の情報を守る。
防止の担当から、発生後の対応へつなぐ
問題のある生成を防いでも、既に保存・転載された投稿への対応は別に残る。AIの提供事業者へ悪用を知らせることと、投稿を扱うプラットフォームへ削除を求めることは、同じ手続きではない。本人が一つの通報で対応を終えられると約束せず、何をどこへ伝え、その後どの判断を受け取れるかを案内する必要がある。
では、違法だと考える投稿について知らせ、受領の確認や判断結果、異議を申し立てる方法を受け取る過程が示される。通知が受け付けられたことと、投稿が削除されたことは別である。受付番号だけで対応済みにせず、対象の投稿と、その判断を確認できる記録を残す方法が考えられる。
生成・提供の確認
- 事前の確認
- 目的と本人の同意
- 技術と運用
- 悪用の防止
- 報告後
- 対策の修正
流通・救済の確認
- 投稿の通知
- 対象と受領
- 判断
- 結果と異議の方法
- 本人の支援
- 相談先と引き継ぎ
公式の禁止条件とDSA案内をもとにした筆者の確認案。通知の受領、削除、裁判上の救済や支援の到達は別に確認する。自動削除や賠償、すべての利用者への同じ窓口を保証するものではない。
の案内には、プラットフォーム内での無料の苦情申立て、認証された、制度上の不履行に関する監督担当への苦情、裁判の方法が示される。裁判外の判断には法的拘束力がなく、これらの案内が削除や賠償を保証するわけではない。対象となるサービス、手続き、本人が利用できる条件を確認したい。
回答が届かなかった場合も、同じ通知を繰り返すだけでよいとは限らない。通知の対象、受領の記録、示された理由を確かめ、利用できる異議の方法と相談先を調べる必要がある。支援の担当は、次の窓口を紹介したことと、本人がそこへ到達したことを分けて確認し、利用できない場合に残る課題を記録する方法が考えられる。
は、生命や安全への脅威に関する犯罪の疑いを当局へ通知する実務も扱う。これは、利用者の苦情がすべて警察へ自動送付されるという意味ではない。通常の投稿への苦情と、危険や犯罪の疑いへの対応を分け、案内する範囲を確かめる必要がある。
確認のために、本人の情報をさらに広げない
相談の担当者が事実を確かめようとして、被害素材を別の場所へ転載すれば、本人が望まない広がりを増やしかねない。必要な情報と共有先を確かめ、素材を公開して被害を証明する方法へ誘導しないことが大切だ。本人の事情と投稿を扱うための情報を分け、閲覧できる担当、保存する期間、他の窓口へ渡す条件を決める方法が考えられる。
本人から相談を受ける際にも、どこまで対応を望むか、誰へ伝えてよいかを確かめたい。削除の申立て、身近な生活の安全、法律上の相談では必要な情報が異なる。記録を一つに集めることだけを効率とせず、担当が変わった後にも、説明した利用目的と共有の範囲を守れるかを確認する必要がある。
窓口の案内自体も、本人が使えるかを確かめる対象になる。言語や画面の操作、必要な費用が分からなければ、制度の名称だけを示しても利用の判断が難しい。ここで提案するのは、対応できる内容、必要な準備、確認する相手を具体的に示すことである。すべての国やサービスで同じ支援が提供されるという実績を示すものではない。
制度への対応と、本人へ届いた結果を分ける
ここで提案する評価では、通知の件数や対策を導入した数に加えて、判断を受け取れた人、相談へつながった人、利用を諦めた人を分ける。削除にかかった期間と、その後の転載への対応も別に追う。満足度に答えた人だけで、回答できなかった人や、支援へたどり着けなかった人の状況を代表させない。
一方、合法な表現を誤って制限した場合の異議申立ても、確認する対象になる。防止する範囲を広げたことだけで成果とせず、見逃した被害と誤った制限を別に記録する必要がある。比較する期間、対象、判断の条件をそろえ、制度が原因で改善したと結論するには、他の変化も確かめたい。現時点の説明だけで改善の効果を実証したとは言えない。
継続する仕事にも費用がかかる。悪用への対策を修正する担当と、個別の通知を確認する担当、本人の相談を受ける担当は、それぞれ何を担うか。短期の窓口設置で終えず、再び投稿された場合の連絡や、異議申立てを続ける負担も考えたい。本人が同じ説明を繰り返す回数を減らしながら、望まない情報共有を増やさない方法が要る。
関連ガイド・書籍
活動の件数と本人へ届いた変化を分ける方法は、アウトカム指標設計ガイド（このサイトの記事）に整理している。ここで提案する評価項目と合わせて、何を確かめるかを考えられる。
『ポルノ被害の声を聞く デジタル性暴力と#MeToo』（外部サイト、新しいタブで開きます）は、による2022年の書籍である。公開されている紹介と目次は、デジタル性被害と相談を考える入口になる。現在のEU法の根拠や、個別の支援の効果を証明する資料としては扱わない。
残る問い
禁止の範囲、情報の引き継ぎ、救済への到達を問う。
禁止の範囲を正確に伝えながら、生成を防ぐ仕事を誰が担うか。提供者は、目的だけでなく、予見できて再現できる悪用と対策の条件を確かめられるか。使う人は、元の写真の公開と、別の性的な生成への同意を区別できるか。表示の義務への対応だけで確認を終えず、本人が何を認めたかと、悪用の報告を受けて何を修正するかを、利用規約と実際の運用の双方で問いたい。
対応のために本人へ求める情報を、必要な範囲へ絞れるか。支援者は、投稿の確認、削除の通知、生活の安全、法律上の相談で必要な内容を分け、他へ渡す前に目的と共有先を説明できるか。素材を広め直したり、担当が変わるたびに本人へ同じ説明を求めたりしない方法が必要だ。閲覧や保存の条件と、引き継いだ後の責任を決め、相談を受け付けた記録だけで支援を終えないことが問われる。
制度があることから、救済が本人へ届いたと言えるまでに、何を確かめるか。削除数だけでなく、判断までの期間、再投稿への対応、異議申立てや相談を使えなかった人も追えるか。利用する国や言語、費用によって残る条件を調べ、誤った制限にも回答できる方法を用意したい。改正の発効を区切りにせず、事業者と支援側が継続する担当と費用を持ち、本人の生活に必要な対応が続くかを評価する必要がある。
参考文献
AI Omnibus enters into force（7月27日） — 欧州委員会 (2026). 欧州委員会
第5条・禁止されるAI慣行（7月27日統合版） — 欧州委員会 AI Act Service Desk (2026). 欧州委員会 AI Act Service Desk
改正後のEU AI法の適用日程 — 欧州委員会 AI Act Service Desk (2026). 欧州委員会 AI Act Service Desk
採択文 PE-CONS 30/26（印刷47〜48・90ページ等を選択参照、官報最終版ではない） — EU理事会 (2026). EU理事会
デジタルサービス法による違法内容への対応と救済 — 欧州委員会 (2026). 欧州委員会
Fighting online scams with the DSA（通知と対応の説明） — 欧州委員会 (2026). 欧州委員会
DSA第18条に関する犯罪の疑いを通知する実務案内（9月25日公表） — 欧州委員会 (2026). 欧州委員会
読んだ後に考えてみよう
- 本人はどの生成・加工に同意したか
- 誰が通報を受け、判断を返すか
- 本人の情報を広めずに支援へつなげられるか
この記事の用語
- AI法
- EUでAIの提供や利用を規律する規則。禁止される慣行や透明性などの規定は、対象と条件、適用開始日を個別に確認する。
- デジタルサービス法（DSA）
- EUのオンライン仲介サービスに関する規則。違法な内容の通知や判断への異議などを扱い、内容の違法性を定める他の法とは区別する。
- 裁判外の紛争解決
- DSAのもとで認証された機関へ、プラットフォームの内容に関する判断への異議を申し立てる方法。機関の判断に法的拘束力はなく、利用できるサービスや条件の確認が必要である。
- 施行・発効
- 法律や条約が効力を持ち始めること。文書の発効日と、特定の義務を対象者へ適用し始める日は、別に定められる場合がある。
- 適用日
- 特定の規定を対象となる人や行為へ適用し始める日。対象の範囲、経過措置、改正の有無を、その規定と併せて確認する。
関連
安保理改革は、多数の支持だけで実現できるのか
2026年9月のG4共同声明と、議席拡大・憲章改正の採択・批准について
外国法人等が取得した農地は175haで全国の0.004%。うち海外に住む外国人と外国法人によるものは0haである
農林水産省と林野庁が令和7年9月16日、外国法人等による農地取得と森林取得の令和6年調査結果を公表した。農地は175.3haで全国の農地面積の0.004%、うち外国法人と海外居住外国人による取得は0haだった。森林は382haで全国の私有林の0.003%、平成18年からの累計は10,396haで0.07%である。林野庁は取水や地下水の採取を目的とした開発の事例はこれまで報告がないと明記した。
海外支援予算配分の構造分析：ODAと国内福祉のトレードオフは成立するか
「海外にばらまくなら国内に使え」というSNS上の批判を起点に、ODA予算と社会保障費のスケール差、DAC諸国との国際比較、戦略的ODAの構造を分析する。ODA全廃は社会保障財源にほぼ貢献しないという数字の事実と、問いの立て方そのものを問い直す。
子育て支援金は「独身税」か — 社会保険方式の構造矛盾
2026年4月から子育て支援金の徴収開始。年収600万円で月575円、2028年度満額で月1,000円。社会保険料方式が選ばれた本当の理由は「増税と呼ばれない」政治的利点。フランスCNAFとの比較で財源設計の矛盾を読む。
新着コラムをメールで受け取る
週1-2本の社会構造分析コラムを配信します。登録は無料です。
活動を支える賛助会員
年会費5,000円で、ISVDの調査研究と情報発信を支えられます。自動更新はありません。