„Það eina sem þarf til að verða fórnarlamb er að vera mannlegur, “ segir lögfræðingurinn Carrie Goldberg, sem fjallar um hættur djúpfalskapnakláms á AI-öldinni. Hefndarklám, eða dreifing kynferðislegra mynda án samþykkis, hefur verið til frá fyrsta degi internetsins. Hins vegar gerir útbreiðsla gervigreindartækja það mögulegt að hver sem er geti orðið skotmark þessa áreitni, jafnvel án þess að hafa tekið eða deilt nektarmynd. Gervigreindartækni getur nú sett andlit manns á nakinn líkama eða breytt myndum þannig að það líti út fyrir að einhver sé afklæddur. Á síðasta ári hafa fórnarlömb gervigreindartilbúnu kláms án samþykkis verið þekktir einstaklingar eins og Taylor Swift og fulltrúinn Alexandria Ocasio-Cortez, sem og framhaldsskólanemendur. Þegar einhver uppgötvar að þau eða börn þeirra eru myndefni djúpfalskapnakláms er reynslan hræðileg og yfirbugandi, segir Goldberg, sem stýrir C. A. Goldberg Law, lögfræðistofu í New York sem sinnir fórnarlömbum kynferðisglæpa og áreitni á netinu. „Þetta á sérstaklega við um ungt fólk sem kann að eiga erfitt með að takast á við þetta og finnst internetið vera ógnvekjandi og óskiljanlegt, “ sagði hún. Sem betur fer eru skref sem einstaklingar sem verða fyrir þessari áreitni geta tekið til að vernda sig, og aðstoðarmöguleikar til staðar, sagði Goldberg í viðtali við nýja tæknipodcastið CNN, Terms of Service með Clare Duffy. Terms of Service leitast við að útskýra nýrri tækni sem fólk mætir daglega. (Hlýddu á allt samtalið við Goldberg hér. ) Goldberg ráðlagði að fyrsta skrefið sem einstaklingur tekur þegar hann er skotmark gervigreindargerðra kynferðislegra mynda — jafnvel þó það virðist ekki viðeigandi — ætti að vera að taka skjáskot. „Eðlishvötin er að eyða þessu af internetinu strax, “ sagði Goldberg.

„En að varðveita sönnunargögn er nauðsynlegt ef þú vilt eiga möguleika á að tilkynna þetta saknæmt. “ Í kjölfarið geta fórnarlömb notað eyðublöð frá vettvangi eins og Google, Meta og Snapchat til að biðja um að fjarlægja slíkar myndir. Sjálfboðasamtök eins og StopNCII. org og Take It Down geta einnig hjálpað við að fjarlægja myndir af mörgum vettvangi samtímis, þó ekki allir staðir gangi í takt. Í ágúst skrifaði þverpólitískur hópur öldungadeildarþingmanna opið bréf sem skorar á nærri tólf tæknifyrirtæki, þar á meðal X og Discord, að taka þátt í þessum forritum. Viðfangsefnið um kynferðislegar myndir án samþykkis og djúpfölsk myndbönd hefur náð óvenjulegu samkomulagi þvert á flokka. Unglingar og foreldrar sem urðu fyrir áhrifum af gervigreindarklámi gáfu vitnisburð á fundi á Capitol Hill, þar sem repúblikanaöldungadeildarþingmaðurinn Ted Cruz kynnti frumu, studd af demókrataöldungadeildarþingmanninum Amy Klobuchar og öðrum, til að gera slíkar útgáfur refsiverðar og skylda samfélagsmiðla til að fjarlægja tilkynnt efni. Eins og staðan er núna, verða fórnarlömb að fara í gegnum mismunandi ríkislög. Sumar fylki skortir lög gegn því að búa til eða dreifa ljósmyndum á djúpfalsandi hátt af fullorðnum, þó að gervigreindarmyndir af börnum falli venjulega undir lög um kynferðislega misnotkun á börnum. „Ráð mitt til hugsanlegra gerenda er einfaldlega, verið ekki siðlaus með því að misnota mynd einhvers til niðurlægingu, “ sagði Goldberg. „Það er lítið sem fórnarlömb geta gert til að koma í veg fyrir þetta. Í stafrænu samfélagi okkar er fullkomið öryggi óaðgengilegt, en það er á okkar ábyrgð að meðhöndla aðra sómasamlega. “