イングランドの子ども担当コミッショナー、レイチェル・ド・ソウザ男爵は、児童の性的な画像を人工知能（AI）を使って作成するアプリの禁止を政府に求めています。彼女は、「ヌード化」や「ヌード画像生成」を可能にするアプリの全面禁止を呼びかけ、AIが実在の人物の写真を編集して裸に見せる行為を警告しました。これらのアプリは深刻な現実世界での結果も伴うため、政府はこれらのアプリを無制限に放置していると指摘しています。 政府の広報担当者は、児童の性的虐待資料が違法であることを改めて確認し、そのようなコンテンツを生成、所持、配布するためのAIツールに関する新たな犯罪を導入する計画を発表しました。リアルに見えるAI生成の動画、画像、音声クリップ（ディープフェイク）が、少女や若い女性を標的に使用されるケースが増加しており、多くのアプリは女性の身体に特化していると、レイチェル女史の報告書は指摘しています。このレポートは、少女たちがオンラインでのリスクを減らすために、画像の投稿や交流を避ける傾向が強まっていることを示し、夜道を一人で歩かないなどのオフラインの安全対策と類似した行動を取っていると述べています。 レイチェル氏は、急速に進化し拡大するこれらのAIツールが巨大な危険をもたらすと強調し、これらのアプリが子どもたちの生活を傷つけるのを許すのではなく、早急に対応すべきだと述べました。オンライン安全法（Online Safety Act）に基づき、性的に露骨なディープフェイク画像の共有や脅迫は違法とされています。政府は2月に、こうしたコンテンツを生成、所持、配布するためのAIツールの所持や作成を禁止する新法も発表していますが、レイチェル女史はこれらの措置だけでは不十分だとし、「ヌード化」アプリ全体の禁止を求めています。 インターネット監視基金（IWF）の報告によると、2024年のAI生成児童性的虐待画像の報告件数は2023年と比べて380%増の245件に達し、前年の51件から大幅に増加しています。IWFの暫定最高経営責任者のデレク・レイヒル氏は、こうしたアプリが学校内でも乱用され、イメージが急速に拡散していると指摘しました。科学・イノベーション技術省の広報担当者は、AI生成児童性的虐待資料の作成・配布は憎むべき行為であり違法とし、「オンライン安全法に基づき、プラットフォームはこれらのコンテンツを削除しなければならない」と述べ、違反すると高額な罰金を科されることも強調しました。イギリスは、AIに関連する児童性的虐待の犯罪に関する特定の法的規定を導入した最初の国です。 レイチェル氏はまた、AI開発者に対して子どもたちに危害を及ぼすリスクを特定し軽減する義務を課し、インターネットから性的に露骨な深層フェイク画像を除去するための体系的なプロセスを確立し、深層フェイクによる性的虐待を女性や少女に対する暴力の一形態として正式に認めるよう求めています。 NAHT（全国校長・教師組合）の一般書記ポール・ホワイトマンもこれらの懸念を共感し、技術が既存の法律や教育を追い越すリスクがある中で、この分野の見直しの緊急性を強調しました。さらに、メディア規制機関のオフコム（Ofcom）は、ポルノや有害なコンテンツを含むプラットフォームに対し、より厳しい年齢確認措置を義務付ける「子どものためのコード」を最終化し、違反すると罰金を科すことになっています。しかし、レイチェル氏は、このコードが子どもたちの安全よりも企業のビジネス利益を優先しているとの批判をしています。