高性能の生成AIが次々に公開されているが、同時にその悪用も目立ち始めている。とりわけ、ディープフェイクと呼ばれる、精巧に本人に似せて捏造された画像や動画、音声の作成と悪用には、懸念の声が寄せられている。
【イラスト解説】侮辱罪の慰謝料 ディープフェイクは詐欺やなりすまし、名誉棄損とプライバシー侵害、著作権侵害など、多くの問題をはらみ、社会の信頼基盤を脅かす破壊力を備える。一方で、日本では対策が後手に回っているのが実情だ。
そうしたなか、近年、性的意図をもってディープフェイクに利用されてしまうのではないか、との不安が拡大しているのが小学校、中学校、高等学校である。（ITジャーナリスト：井上トシユキ）
5月6日、イタリアのメローニ首相が、AIによって性的に加工された自身のディープフェイク画像がSNSで拡散していたことについて「誰にでも危害を与える可能性がある危険なツールだ」と不快感を表明した。
EU加盟国および欧州議会は翌5月7日、本人の同意なく児童や識別可能な人物の性的画像や動画、音声を人工知能（AI）で生成することを禁止する「AI法の見直し」の暫定的合意を発表した。
メローニ首相がわざわざ不快感を表明した背景には、この発表と合わせ技で合意内容を強調する狙いがあったものと思われる。
生成AIを悪用したディープフェイクによる性的な動画や画像の被害は、わが国でも目立つようになっている。
今年4月には、約500人分にのぼる女子陸上選手のディープフェイク画像が、350枚以上もネット上で公開されていた。
以前より、「女子選手の順番になると、とたんにカメラを構える人が増える」「練習中にもカメラを持った人が現れて恐怖を感じた」などと問題視され、関連する団体等は「スポーツ選手の盗撮は性暴力のひとつ」であると周知に努めてきた。
だが、それでも被害はなくならない。
「関係者なのか盗撮者なのか、判断に困る時もある」「人員や費用面での負担も大きい」と、限界を訴える声も大きい。こうした声を受け、スポーツ庁も遅まきながら対策をまとめることを決めたと報じられている。
さらに近年、性的意図をもってディープフェイクに利用されてしまうのではないか、との懸念が広がっているのが小学校、中学校、高等学校である。
弁護士JPニュース - 2026/05/27 10:40