ディープフェイク

警視庁は2026年1月20日、生成AIを悪用して女性芸能人に似せた不適切な画像を作成（ディープフェイク）・公開したとして、北海道札幌市の無職、千葉達郎容疑者（31）を不適切な内容を含む電磁的記録を公開した疑い（わいせつ電磁的記録媒体陳列の疑い）で逮捕しました。　千葉容疑者は、多額の利益を得ることを目的とし、実在するアイドルや俳優の顔をAIに学習させ、本人にそっくりなわいせつ画像１４点を作成し、有料サイトで販売する目的で公開したとされています。　容疑者は著名人の知名度を悪用し効率的に集客し、2024年の夏ごろからの約2年間で、1100万円もの売上を得ていたとみられています。なお、押収した容疑者のパソコンからは、50万点を超える大量のわいせつ画像等が見つかったとのことです。　本件は、最新のAI技術が個人の権利を侵害する犯罪に転用された深刻な事例であり、ディープフェイク等の技術悪用に対する法的規制の議論や、被害者を保護するための社会的な仕組み作り、さらには利用者のモラル向上が急務となっています。

生成AIで作成したわいせつ画像を販売していた疑いで、２０２５年４月１５日までに男女4人が警視庁に逮捕されました。逮捕されたのは、愛知県北名古屋市の小売業、水谷智浩容疑者（44）、埼玉県の会社員、菅沼貴司容疑者（53）、パート従業員の桜井七海容疑者（28）らです。　4人は実在しない女性の裸の画像ポスターを生成AIで作成し、インターネットオークションで販売。無料の画像生成ソフトに大量の画像を学習させたうえで、「脚を開く」といった指示を与え、裸に見える画像を生成していたとみられています。　　水谷容疑者は、約1年間で1,050万円以上を売上ていたとされ、取り調べでは「手軽に儲けられると思った」と供述しているとのことです。　AIによる画像生成を悪用したわいせつ物販売事件の摘発は、本事案が全国初とされています。たとえ実在しない人物であっても、その画像が「わいせつ物」に該当する可能性が示され、生成AIの新たな悪用方法として注目されています。　AI生成技術の進化が進むなか、法規制や社会的なルール作りの必要性が、改めて浮き彫りになっています。