性的ディープフェイクを規制する条例の憲法上の問題点

鳥取県が条例で青少年の性的ディープフェイクを規制

性的ディープフェイクとは、AI（人工知能）技術を使って作成した、実在する人物の偽の性的な画像・動画を意味します。

性的ディープフェイクが無断で作成され、インターネット上で拡散された場合、その基となった実在人物は、性的対象としておとしめられることにより、プライバシー、名誉、肖像権などを侵害されることになるとともに、同人を対象とする性犯罪が助長される危険もあり、今、大きな社会問題となっています。

こうした中で、鳥取県は、鳥取県青少年健全育成条例を改正し、①児童（18歳未満の者）の性的ディープフェイクを「児童ポルノ等」として規制対象とし（令和7年4月1日施行）、さらに、②児童の性的ディープフェイクを含む「児童ポルノ等」の作成・製造・提供の禁止に違反した場合の措置として、5万円以下の過料（行政罰）、廃棄・削除等の命令、命令違反者の氏名公表を新設しました（令和7年6月30日可決）。

AI新法（正式名称は「人工知能関連技術の研究開発及び活用の推進に関する法律」）では、AIに関する基本理念とそれに基づく国等の責務について抽象的に定めているだけであり、少なくとも現時点では、AIの開発・利用等について具体的な規制は設けられていません。

また、児童ポルノ禁止法（正式名称は「児童買春、児童ポルノに係る行為等の規制及び処罰並びに児童の保護等に関する法律」）では、規制対象である「児童ポルノ」（同法2条3項）に児童の性的ディープフェイクが含まれるかが明らかではありません。

このように、法律では、児童の性的ディープフェイクを明確に規制する規定が存在しておらず、こうした状況下において、鳥取県青少年健全育成条例は、①児童の性的ディープフェイクを「児童ポルノ等」として規制対象にするとともに、②規制違反について罰則等の措置を定めるに至ったわけです。

 

憲法上の問題点

児童の性的ディープフェイクを規制する鳥取県青少年健全育成条例（以下「本件条例」といいます。）については、2つの憲法上の問題点があります。

＜憲法94条＞

憲法94条は、「地方公共団体は、…法律の範囲内で条例を制定することができる。」と定めています。したがって、地方公共団体が制定する条例のうち法令の委任に基づかない自主条例は、「法律の範囲内」でのみ許容されるものであり、「法律の範囲内」を逸脱するものは憲法94条に違反することになります。

前記の通り、本件条例は児童の性的ディープフェイクを明確に規制している一方で、AI新法ではAIの開発・利用等について具体的な規制は設けられておらず、児童ポルノ禁止法でも規制対象である「児童ポルノ」（同法2条3項）に児童の性的ディープフェイクが含まれるかは明らかではありません。そこで、本件条例がAI新法や児童ポルノ禁止法に抵触するものであるかが問題となります。

（本件条例）

（児童ポルノ禁止法）

徳島県公安条例事件判決（最大判昭和50年9月10日）は、「条例が国の法令に違反するかどうかは、両者の対象事項と規定文言を対比するのみでなく、それぞれの趣旨、目的、内容及び効果を比較し、両者の間に矛盾牴触があるかどうかによつてこれを決しなければならない。」と述べた上で、比較対象の方法の例として、①国の法令中に明文規律がない場合でも、それが当該事項についていかなる規制も許さないという趣旨であれば、当該事項を規制する条例は法令に違反する、②当該事項について国の法令と条例とが併存する場合でも、㋐両者の目的が異なり、かつ、条例の適用により国の法令の目的・効果が何ら阻害されないとき、及び㋑両者の目的が同一であっても、国の法令が地方の実情に応じた別段の規制を容認する趣旨であるときは、条例は法令に違反しない、と述べている。

AI新法では、少なくとも現時点では、児童の性的ディープフェイクに対する具体的規制が設けられていませんから、AI新法との関係では、①「ある事項について国の法令中にこれを規律する明文の規定がない場合」に当たります。また、児童ポルノ禁止法でも規制対象である「児童ポルノ」（同法2条3項）には児童の性的ディープフェイクは含まれないとの解釈に立つのであれば、児童ポルノ禁止法との関係でも、①「ある事項について国の法令中にこれを規律する明文の規定がない場合」に当たります。このように、本件条例は、法令で規制されていない児童のディープフェイクについて規制を定める「横出し条例」に位置付けられることになります。

そうすると、AI新法と児童ポルノ禁止法のいずれとの関係においても、本件条例が「法律の範囲内」である否かは、「当該法令全体からみて、右規定の欠如が特に当該事項についていかなる規制をも施すことなく放置すべきものとする趣旨であると解される」かどうかにより判断されます。

AI新法が児童の性的ディープフェイク「についていかなる規制をも施すことなく放置すべきものとする趣旨であると解される」かどうかの判断では、AI新法は、AIに関する基本理念とそれに基づく国等の責務について抽象的に定めているだけであり、同法5条では、地方公共団体の責務として、「地方公共団体は、基本理念にのっとり、人工知能関連技術の研究開発及び活用の推進に関し、国との適切な役割分担の下、地方公共団体が実施すべき施策として、その地方公共団体の区域の特性を生かした自主的な施策を策定し、及び実施する責務を有する。」と定められているように、AIの開発・利用等については、地方公共団体ごとに当該「区域の特性を生かした自主的な施策」として自主条例によりルールを設けることが予定されていることに着目する必要があります。これは、AI新法は、児童の性的ディープフェイク「についていかなる規制をも施すことなく放置すべきものとする趣旨である」とは解されないとして、本件条例はAI新法と矛盾抵触しないと解する方向で評価される事情です。

児童ポルノ禁止法がが児童の性的ディープフェイク「についていかなる規制をも施すことなく放置すべきものとする趣旨であると解される」かどうかの判断では、児童ポルノ禁止法の制定当時は、AIが存在しなかったため、AIによる児童の性的ディープフェイクの存在も予定されていなかったという事情を考慮する必要があります。実際、2025年4月9日の衆議院の内閣委員会において、高村法務副大臣は、野党側からの質問に対して、「実在する児童の姿態を、視覚により認識することができる方法で描写したものと認められる場合は、児童ポルノに該当しうる」と述べ、「性的ディープフェイク」の作成のもとになった卒業アルバムやSNS上の写真などの子どもが実在することが確認されれば、児童ポルノ禁止法上の規制の対象になり得るとの見解を示しています（出典：NHK ウェブ）。こうした事情は、児童ポルノ禁止法は、児童の性的ディープフェイク「についていかなる規制をも施すことなく放置すべきものとする趣旨である」とは解されないとして、本件条例は児童ポルノ禁止法と矛盾抵触しないと解する方向で評価されます。

＜憲法21条1項＞

憲法21条1項との関係では、本件条例がAIによる児童の性的ディープフェイクの作成・製造・提供をも禁止している点について、①作り手・送り手の「表現の自由」の侵害と、②受け手の知る自由の侵害が問題となります。②受け手の知る自由は、本件条例により直接に制約されているわけではありませんが、①の「表現の自由」の制約を通じて、事実上（又は間接的に）制約されています。

以下では、①についてのみ解説し、②については割愛します。

第1に、AIにより児童の性的ディープフェイクを作成・製造し、これを提供することが、「表現の自由」として憲法21条1項により保障されるかが問題となります。

司法試験では、インターネット上での地図情報の提供（平成23年）、虚偽表現（令和1年）、匿名表現（令和3年）、営利表現（令和6年）というように、表現の自由の典型例からズレた表現が出題される傾向が極めて強いです。こうした出題の下では、表現の自由の伝統的意義を出発点として、当該表現の特殊性に配慮しながら、保障の趣旨や関連判例も踏まえて丁寧に論じる必要があります。

第2に、本件条例は、「提供」まで規制しているので、「表現の自由」に対する制約に当たることは明らかです。

第3に、表現規制に関する違憲審査基準の厳格度は、主として、人権の性質や制約の態様を考慮して決定されます。

人権の性質では、児童の性的ディープフェイクに関する「表現の自由」については、自己統治の価値との関連性が希薄であるため、民主政の過程論が妥当しないとの理由から、二重の基準論の射程が及ばないことを指摘するべきです。

同じ問題意識は、営利表現の自由が問われた令和6年司法試験の出題趣旨と採点実感でも言及されています。

制約の態様では、表現内容規制については厳格審査の基準が妥当するとの一般理論の妥当性を検証する必要があります。

表現内容規制について厳格審査の基準が妥当するとされる理由の1つとして、国家が自己に都合の悪い表現内容を言論市場から締め出すという恣意的規制の危険が挙げられますが、児童の性的ディープフェイクの表現については、類型的に見て、国家にとって都合の悪い表現内容となる危険が小さいため、その分だけ、国家が自己に都合の悪い表現内容を言論市場から締め出すという恣意的規制の危険が認められにくくなります。このように解するのであれば、児童の性的ディープフェイクの表現においては、表現内容規制については厳格審査の基準が妥当するとの一般理論は妥当しないこととなります。

以上の評価を踏まえて、中間審査の基準（場合によっては、合理的関連性の基準）を選択することになります。

最後に、定立した違憲審査基準に従って、目的・手段審査を行います。当てはめについては、割愛いたします。

＜その他の問題点＞

上記の他に、規制対象である「児童ポルノ等」（2条3項）の明確性（憲法31条、憲法21条1項）を問題とする余地もありますし、事案によっては、児童の性的ディープフェイクの作成・製造と提供を区別して、作成・製造について「表現の自由」とは異なる権利で別途論じるという構成も考えられます。
．

以上が本件条例に関する憲法上の問題点です。

憲法94条は平成19年司法試験以降一度も出題されておらず、憲法21条1項は司法試験で一番の頻出事項ですから、受験生の皆さんには、本コラムでしっかりと勉強していただきたいと思っています。

 

執筆者