„Alles, was es braucht, um Opfer zu werden, ist, ein Mensch zu sein“, sagt die Anwältin Carrie Goldberg und weist auf die Gefahren von Deepfake-Pornos im Zeitalter der KI hin. Rache-Pornos, also das nicht einvernehmliche Teilen von intimen Bildern, gibt es seit den frühen Tagen des Internets. Doch der Aufstieg von KI-Tools ermöglicht es, jeden zum Ziel dieser Belästigung zu machen, selbst ohne je ein Nacktfoto aufgenommen oder geteilt zu haben. KI-Technologie kann nun das Gesicht einer Person auf einen nackten Körper setzen oder Fotos so verändern, dass es erscheint, als sei jemand entkleidet. Im vergangenen Jahr waren Opfer von KI-generierten nicht einvernehmlichen Pornos unter anderem bekannte Persönlichkeiten wie Taylor Swift und Abgeordnete Alexandria Ocasio-Cortez sowie Schüler. Goldberg, die die Kanzlei C. A. Goldberg Law in New York leitet, die Opfer von Sexualverbrechen und Online-Belästigung vertritt, sagt, dass die Erfahrung schockierend und überwältigend ist, wenn jemand entdeckt, dass er oder sein Kind Gegenstand von Deepfake-Pornos ist. „Besonders gilt das für junge Menschen, die Schwierigkeiten haben könnten, damit umzugehen, und das Internet als einschüchternd und unbegreiflich empfinden“, sagte sie. Glücklicherweise gibt es Maßnahmen, die Einzelpersonen, die durch diese Belästigung ins Visier genommen werden, ergreifen können, um sich zu schützen, sowie Unterstützungsmöglichkeiten, teilte Goldberg in einem Interview im neuen Tech-Podcast von CNN, „Terms of Service mit Clare Duffy“, mit. „Terms of Service“ zielt darauf ab, die aufkommenden Technologien, denen Menschen täglich begegnen, verständlicher zu machen. (Hören Sie das vollständige Gespräch mit Goldberg hier. ) Goldberg riet, dass der erste Schritt einer Person, wenn sie von KI-generierten sexuellen Bildern ins Visier genommen wird – auch wenn es kontraintuitiv erscheinen mag – darin bestehen sollte, Screenshots zu machen. „Der Instinkt ist, es sofort aus dem Internet zu löschen“, sagte Goldberg.

„Aber die Beweissicherung ist entscheidend, wenn man die Option haben möchte, dies strafrechtlich anzuzeigen. “ Anschließend können Opfer Formulare nutzen, die von Plattformen wie Google, Meta und Snapchat bereitgestellt werden, um die Entfernung solcher Bilder zu beantragen. Organisationen wie StopNCII. org und Take It Down können ebenfalls dabei helfen, Bilder von mehreren Plattformen gleichzeitig zu entfernen, obwohl nicht alle Seiten kooperieren. Im August verfasste eine parteiübergreifende Gruppe von Senatoren einen offenen Brief, in dem sie fast ein Dutzend Tech-Unternehmen, darunter X und Discord, aufforderten, an diesen Programmen teilzunehmen. Die Behandlung von nicht einvernehmlichen expliziten Bildern und Deepfakes hat eine seltene parteiübergreifende Zustimmung gefunden. Teenager und Eltern, die von KI-generierten Pornos betroffen sind, sagten bei einer Anhörung auf dem Capitol Hill aus, wo der republikanische Senator Ted Cruz einen Gesetzentwurf einführte, der von der demokratischen Senatorin Amy Klobuchar und anderen unterstützt wurde, um solche Veröffentlichungen zu kriminalisieren und soziale Medienplattformen zu verpflichten, gemeldete Inhalte zu entfernen. Derzeit müssen sich Opfer mit unterschiedlichen staatlichen Gesetzen auseinandersetzen. Einige Staaten haben keine Gesetze gegen die Erstellung oder Verbreitung expliziter Deepfakes von Erwachsenen, auch wenn KI-generierte Bilder von Kindern in der Regel unter Gesetze zu materialien des sexuellen Missbrauchs von Kindern fallen. „Mein Rat für potenzielle Straftäter ist einfach: Seien Sie nicht moralisch verwerflich, indem Sie das Bild einer Person zur Demütigung ausnutzen“, sagte Goldberg. „Es gibt wenig, das Opfer tun können, um dies zu verhindern. In unserer digitalen Gesellschaft ist vollständige Sicherheit nicht erreichbar, aber es liegt an uns allen, andere anständig zu behandeln. “