生成AI

警視庁は2026年1月20日、生成AIを悪用して女性芸能人に似せた不適切な画像を作成（ディープフェイク）・公開したとして、北海道札幌市の無職、千葉達郎容疑者（31）を不適切な内容を含む電磁的記録を公開した疑い（わいせつ電磁的記録媒体陳列の疑い）で逮捕しました。　千葉容疑者は、多額の利益を得ることを目的とし、実在するアイドルや俳優の顔をAIに学習させ、本人にそっくりなわいせつ画像１４点を作成し、有料サイトで販売する目的で公開したとされています。　容疑者は著名人の知名度を悪用し効率的に集客し、2024年の夏ごろからの約2年間で、1100万円もの売上を得ていたとみられています。なお、押収した容疑者のパソコンからは、50万点を超える大量のわいせつ画像等が見つかったとのことです。　本件は、最新のAI技術が個人の権利を侵害する犯罪に転用された深刻な事例であり、ディープフェイク等の技術悪用に対する法的規制の議論や、被害者を保護するための社会的な仕組み作り、さらには利用者のモラル向上が急務となっています。

警察庁は2025年12月18日、生成AIなどを悪用して実在する児童の画像を裸のように加工する性的ディープフェイク被害の現状を初めて公表しました。2025年1月から9月末までの性的ディープフェイク被害相談は79件に上り、その半数以上で同じ学校の同級生が加害者となっていることが判明しました。このたびの警察庁の公表、注意喚起は、悪意のある画像加工が名誉毀損などの重大な犯罪や人権侵害に直結することを強く警告し、子どもたちの安易な加害行為を未然に防ぐ狙いがあります。生成AI技術の進歩により、専門知識がなくても誰もが容易に加害者になり得る今、被害者の尊厳を守るための社会的な枠組み作りは急務です。政府は2026年度中に向けた具体策の策定を進めており、今後、教育現場や家庭における情報モラル教育の強化がより一層進む見通しとなっています。

生成AIで作成したわいせつ画像を販売していた疑いで、２０２５年４月１５日までに男女4人が警視庁に逮捕されました。逮捕されたのは、愛知県北名古屋市の小売業、水谷智浩容疑者（44）、埼玉県の会社員、菅沼貴司容疑者（53）、パート従業員の桜井七海容疑者（28）らです。　4人は実在しない女性の裸の画像ポスターを生成AIで作成し、インターネットオークションで販売。無料の画像生成ソフトに大量の画像を学習させたうえで、「脚を開く」といった指示を与え、裸に見える画像を生成していたとみられています。　　水谷容疑者は、約1年間で1,050万円以上を売上ていたとされ、取り調べでは「手軽に儲けられると思った」と供述しているとのことです。　AIによる画像生成を悪用したわいせつ物販売事件の摘発は、本事案が全国初とされています。たとえ実在しない人物であっても、その画像が「わいせつ物」に該当する可能性が示され、生成AIの新たな悪用方法として注目されています。　AI生成技術の進化が進むなか、法規制や社会的なルール作りの必要性が、改めて浮き彫りになっています。