Die Met Gala 2024 in New York City war geprägt von der Anwesenheit von KI-generierten Bildern von Katy Perry und Rihanna. Diese Bilder, obwohl fehlerhaft, wurden auf Social Media Plattformen weit verbreitet und haben Bedenken hinsichtlich des Missbrauchs von KI aufgeworfen. Der Vorfall hat Fragen nach den Bemühungen der Social Media Unternehmen aufgeworfen, solche Inhalte zu erkennen und darauf zu reagieren. Obwohl Plattformen wie TikTok und Meta Maßnahmen zur Kennzeichnung von KI-generierten Inhalten eingeführt haben, bestehen immer noch Herausforderungen bei der Identifizierung und Regulierung dieser Art von Material.

Die schnelle Entwicklung der KI-Technologie stellt zudem zukünftig weitere Schwierigkeiten bei der Erkennung von KI-generierten Inhalten dar. Das Fehlen rechtlicher Leitlinien und das Fehlen föderaler Gesetze, die speziell auf Deepfake-Pornografie abzielen, tragen zur wachsenden Krise bei. Bedenken hinsichtlich der schädlichen Auswirkungen von KI und der Notwendigkeit von Verantwortlichkeit wurden von Experten und Forschern geäußert. Trotz dieser Bedenken argumentieren einige, dass die positiven Aspekte von KI, wie der Zugang zu Wissen und ihr Potenzial in verschiedenen Bereichen, derzeit die Nachteile überwiegen.