lang icon English
Dec. 16, 2024, 1:55 p.m.
4396

Skandall með nektarmyndum búnum til af gervigreind í menntaskóla í New Jersey veldur lögfræðilegum aðgerðum.

Brief news summary

Hneyksli hefur blossað upp í Westfield menntaskóla eftir að 14 ára gömul Francesca Mani uppgötvaði að myndin hennar hafði verið breytt í nektarmynd á vefsíðunni Clothoff sem notar gervigreind. Atvikið er hluti af stærra vandamáli sem snertir margar stúlkur í skólanum og vekur upp alvarlegar siðferðilegar spurningar um misnotkun á gervigreind, þar sem Clothoff nýtur vaxandi vinsælda. Karlkyns nemendur eru sagðir hafa skoðað tölvugerðar nektarmyndir af jafnöldrum sínum og jafnvel deilt einni á Snapchat, sem veldur frekara uppnámi. Þótt Clothoff segist eyða slíkum myndum, efast Francesca og móðir hennar, Dorota, um skilvirkni þeirra aðgerða. Sú staða dregur fram tilfinningalega og orðsporstengda áhættu sem tengist gervigreindartækni. Dorota hefur farið með málið til lögreglu, en yfirgripsmiklar lagalegar lausnir eru enn í þróun, sem undirstrikar áskorunina við að stjórna efni sem er búið til með gervigreind. Í kjölfarið eru skólareglur í endurskoðun og öldungadeildarþingmennirnir Ted Cruz og Amy Klobuchar hafa sett fram frumvarpið „Take It Down Act“, sem myndi krefjast þess að eyða tölvugerðum nektarmyndum innan 48 stunda til að refsa fyrir dreifingu þeirra. Þrátt fyrir vaxandi fjölda tilvika hefur viðbrögð tæknifyrirtækja verið ófullnægjandi. Dómsmálaráðuneytið lítur á tölvugerðar nektarmyndir af börnum sem ólöglegar samkvæmt lögum um barnaklám en viðurkennir að þau lög ná kannski ekki yfir allar nýjungar og flækjur gervigreindar.

Francesca Mani var 14 ára nemandi við Westfield High School í New Jersey þegar hún uppgötvaði að ljósmynd af henni hafði verið breytt í nektarmynd með hjálp gervigreindar. Þegar hún var kölluð á skrifstofu skólameistara kom í ljós að nokkrar samnemendur hennar höfðu einnig orðið fyrir barðinu. Myndirnar voru unnar með Clothoff, vefsvæði sem breytir klæddum myndum í raunhæfar nektarmyndir. Þrátt fyrir að Clothoff fullyrði að það vinni ekki með myndir af börnum og hafi aldurstakmarkanir, var ekki brugðist við fyrirspurnum um þessar fullyrðingar. Þó Mani hafi aldrei séð breyttu myndina af sér, veit hún að ein slík mynd var deilt á Snapchat meðal nemenda. Hún gagnrýndi hvernig skólinn upplýsti stúlkurnar á opinberan hátt en að drengirnir, sem voru þátttakendur, voru fjarlægðir af hógværð. Síðar sendi skólameistarinn foreldrum tölvupóst um atvikið, þar sem fram kom að myndirnar hefðu verið eytt og málið rannsakað, þó eru Mani og móðir hennar, Dorota, efins.

Dorota lagði fram kæru hjá lögreglu, en engar ákærur voru gefnar út. Þrátt fyrir að skólakerfið hafi uppfært reglur sína til að taka á AI-tengdum málum, töldu Mani-fjölskyldan að afleiðingarnar fyrir fórnarlömbin hafi verið meiri en fyrir gerendurna. Lagasérfræðingar, eins og Yiota Souras frá National Center for Missing and Exploited Children, vara við því að jafnvel falsaðar AI-myndir geti valdið varanlegum andlegum og mannorðslegum skaða. Talið er að tilfelli eins og hjá Mani séu útbreidd, með yfir 30 slík tilvik í bandarískum skólum og fleiri á heimsvísu, sem undirstrikar hversu erfitt það er að fá tæknifyrirtæki, sérstaklega Snapchat, til að fjarlægja slíkt efni hratt. Dómsmálaráðuneytið segir AI-nektarmyndir af börnum ólöglegar ef þær eru kynferðislega skýrðar, en það er áhyggjuefni vegna mögulegrar óvissu, þar sem sumar myndir geta ekki fallið undir þessa skilgreiningu. Mani-fjölskyldan hefur síðan barist fyrir innleiðingu AI-reglna í skólum og unnið með þinginu að því að stuðla að frumvarpinu Take It Down Act. Þetta frumvarp, sem er styrkt af öldungadeildarþingmönnunum Ted Cruz og Amy Klobuchar, hefur það að markmiði að setja viðurlög við dreifingu á AI-nektarmyndum og krefst þess að samfélagsmiðlar fjarlægi slíkt efni innan 48 klukkustunda frá beiðni.


Watch video about

Skandall með nektarmyndum búnum til af gervigreind í menntaskóla í New Jersey veldur lögfræðilegum aðgerðum.

Try our premium solution and start getting clients — at no cost to you

I'm your Content Creator.
Let’s make a post or video and publish it on any social media — ready?

Language

Hot news

Nov. 14, 2025, 9:31 a.m.

vélaraleg greining á leitartækni: Næsta landamæri…

Gervigreind (AI) er í örum vexti að verða umbreytandi afl í stafrænum markaðssetningu, sérstaklega innan leitarvélastarfs.

Nov. 14, 2025, 9:22 a.m.

Gervigreind er liðmaður, ekki óvinur

Shelley E. Kohan bætir við Leigh Sevin, meðstofnanda Endear, CRM lausnar sem sérsniðin er að nútíma omnichannel verslunarbönkum.

Nov. 14, 2025, 9:17 a.m.

Sýning: Gervigreindar_Isbjarna frá Rússlandi dett…

Myndbands sýna augnablikið þegar fyrsta mannlíki-róbot Rússlands, AIdol, fell um stundarfjórðungi eftir að hann greip fyrsta sinn á tækniviðburði í Moskvu.

Nov. 14, 2025, 9:17 a.m.

MoxiWorks sýnir nýjan stafrænan markaðssetningarp…

Fyrirtækið lýsti því yfir að RISE greini stöðugt hegðun viðskiptavina, spáir fyrir um vilja kaupanda og seljanda og tilkynni um samband og tækifæri sem krefjast athygli.

Nov. 14, 2025, 9:13 a.m.

Meta Platforms fjárfestir 10 milljarða dollara í …

Meta Platforms Inc., áður Facebook, hefur tilkynnt stórkostlega fjárfestingu sem gæti verið yfir 10 milljarða dollara í AI sprotafyrirtækinu Scale AI, sem er eitt stærsta einkafjármögnunarskipti sögunnar.

Nov. 14, 2025, 5:29 a.m.

Jack Dorsey slær aftur um Vine endurkomu þar sem …

Höfuðstofnandi Twitter og talsmaður blockchain, Jack Dorsey, hefur fyllilega, að minnsta kosti að hluta, staðið við loforð sitt um að vekja aftur til lífs vinsæla sex sekúndna myndbandssíðuna Vine.

Nov. 14, 2025, 5:28 a.m.

Leitarvélabestunartól með gervigreind: Leiðarvísi…

Í hraðar breytingum stafræns markaðar er Leitarvélabestun (SEO) áfram nauðsynleg fyrir fyrirtæki sem vilja auka sýnileika á netinu og laða að náttúrulegan umferð.

All news

AI Company

Launch your AI-powered team to automate Marketing, Sales & Growth

and get clients on autopilot — from social media and search engines. No ads needed

Begin getting your first leads today