Az AI megszemélyesítés etikai aggályokat vet fel: Jennifer Ann Crecente esete

2006-ban Drew Crecente 18 éves lánya, Jennifer Ann Crecente, egy volt barátja által lett meggyilkolva Austinban, Texas államban. Gyilkossága jelentős médiafigyelmet kapott, és Drew még mindig kap értesítéseket lánya online jelenlétéről. Nemrégiben felfedezte, hogy Jennifer hasonmásával hoztak létre az AI chatbotot a Character. AI oldalon, amelyet a Google finanszíroz. Ez a chatbot hamisan videojáték-újságírónak adta ki magát, és a család nem adott beleegyezést a létrehozásához. Drew testvére, Brian Crecente, egy játékújságíró, elítélte a botot Twitteren, undorítónak nevezve azt. A Character. AI, amely nemrégiben több mint 150 millió dollárt gyűjtött, eltávolította az avatárt, miután elismerték, hogy megsértette politikájukat. Az ügy azonban szélesebb aggodalmakat tükröz a generáló AI és a személyes identitások ellenőrizetlen használata miatt. Drew, aki azóta alapítványt hozott létre a tinédzser erőszak megelőzésére és jogi diplomát szerzett, felismeri azok technológiai védelmi eszközeit, amelyek korlátozzák azok számára a jogorvoslatot, akik hozzá hasonlóan etikai kudarcnak tartják az ipart. Karaktereket létrehozni a Character. AI-n könnyű, és bár vannak korhatárok és szabályok mások arcképének visszaélése ellen, ezek gyakran csak felhasználói jelentések alapján kerülnek érvényesítésre.
Számos valódi személy botja létezik, beleértve celebeket és magánszemélyeket, ami komoly aggodalmakat vet fel a magánélet és az etika tekintetében. Drew Crecente nem tudja, ki hozta létre a lánya hasonmás botját, de azt sugallja, hogy a játék közösségben lévő családi kapcsolatok vezethettek a létrehozásához. Valakinek arcképének jogi védelme korlátozott, különösen az AI esetében, és szakértők hangsúlyozzák, hogy jogosulatlan megszemélyesítés nem könnyen fordítható le a bíróságon érvényesíthető kárra. Mások, mint Alyssa Mercante, egy játék szerkesztő, aki zaklatást tapasztalt, hasonlóképpen jelentettek megszemélyesítési botokat anélkül, hogy ismernék azok készítőit. A botok gyakran téves információkat közölnek ezekről a személyekről, kockázatokat okozva hírnevükre és pályafutásukra. Kritikusok kifejezik frusztrációjukat a botok által terjesztett félretájékoztatás elterjedtsége miatt, amely hozzájárulhat káros kampányokhoz a hasonmásuk ellen. A Character. AI azt állítja, hogy egy automatizált és humánvezérelt folyamat kombinációját használja a problémás botok felderítésére és eltávolítására, de a válaszidő lassú lehet. A potenciális károk elismerése ellenére a jogi keretek, különösen a Communications Decency Act 230. szekciója jelenleg széleskörű védelmet biztosítanak a platformoknak a felhasználói tartalomért való felelősség alól. Az eredeti személyek és az AI hasonmásaik közötti beszélgetések etikai dilemmákat tárnak fel, mivel a botok elismerik, hogy a megszemélyesítés károkhoz vezethet. Ahogy a Character. AI-hez hasonló platformok tovább nőnek, használatuk kihatásai kérdéseket vetnek fel a hozzájárulásról, a magánéletről és a technológiai cégek felelősségéről a személyazonosságok védelmében.
Brief news summary
Jennifer lányának 2006-os tragikus meggyilkolása óta Drew Crecente-t elnyelte a bánat. Ez a fájdalom újraéledt, amikor találkozott egy AI chatbotttal a Character.AI oldalon, amely félrevezette Jennifer-t mint kitalált videojáték-újságírót az ő beleegyezése nélkül. Ez az eset ösztönözte Crecente-t az erőszak elleni szószólóvá válásra a tinédzserekkel szemben és a személyazonosság-jogok körüli bonyolult jogi kihívások kiemelésére. Crecente esete aggasztó trendet mutat az identitásbitorlásban, különösen a nőket sújtva a játék közösségben, amit a szabályozatlan AI chatbotok fokoznak. Bár a Character.AI irányelveket állapított meg a visszaélések csökkentésére, azok hatékonysága nagymértékben a felhasználói jelentéseken alapul, ami késleltetett intézkedést eredményezhet. Kritikusok azt állítják, hogy a jogi védelmek, mint például a Communications Decency Act 230. szakasza gyakran lehetővé teszik a platformok számára, hogy elkerüljék a káros felhasználói tartalomért való felelősséget. Míg a Character.AI-n folyó interakciók lebilincselőek lehetnek, egyben veszélyes megszemélyesítéseket is elősegítenek, amelyek jelentős hatást gyakorolhatnak az egyénekre, ahogyan azt Alyssa Mercante esete is mutatja. Ahogy a generáló AI technológia fejlődik, az etikai kérdések a magánélet, a beleegyezés és a személyiségi jogok kapcsán egyre sürgetőbbé válnak, kiemelve a robusztusabb szabályozó intézkedések sürgős szükségességét.
AI-powered Lead Generation in Social Media
and Search Engines
Let AI take control and automatically generate leads for you!

I'm your Content Manager, ready to handle your first test assignment
Learn how AI can help your business.
Let’s talk!

2 Egyértelmű Mesterséges Intelligencia (MI) Részv…
Sokan befektetők szorosan figyelemmel kísérik a nagy technológiai vállalatokat, amelyek jelentős összegeket fektetnek a mesterséges intelligencia (AI) infrastruktúrájába, kérdésekkel, mikor vagy vajon ezek a befektetések megfelelő hozamot hoznak-e.

Az XRP gyorsítja a globális fizetési forradalmat,…
Helyi szerkesztői tartalom, amelyet a legjelentősebb iparági szakértők és szerkesztők hagytak jóvá.

A Grok Elon Musk egyetlen szövetségese egy hipote…
Ha kényszerítve lennék arra, hogy Elon Musk és Sam Altman közül válasszak az AI-harcvezér szerepére, amelyben az emberiség jövője forog kockán, a mesterséges intelligenciával működő csetrobotok döntően Altmant részesítették előnyben, kivéve Musk tulajdonú Grokot, amely Musk mellett állt.

Robinhood blokklánc-alapú programot fejleszt az E…
A Robinhood egy blockchain-alapú platformon dolgozik, amelynek célja, hogy európai kereskedők számára hozzáférést biztosítson az amerikai pénzügyi eszközökhöz, két, a helyzettel ismerős forrás szerint, akik a Bloombergnek nyilatkoztak.

Az OpenAI elindítja az o3-mini-t: Gyors, okos, me…
Az OpenAI bemutatta az o3-mini-t, egy új mesterséges intelligencia érvelési modellt, amelyet kifejezetten a matematikai számítások, kódolási feladatok és tudományos problémák pontosságának fokozására terveztek.

A Tether USDT elindul a Kaia blokkláncon, ezzel b…
A stablecoin-kibocsátó Tether bejelentette, hogy saját USDT stabilcoinját bevezet a Kaia blokkláncon, amely egy Layer 1 hálózat, és 2024 augusztusában indult el.

Elton John és Dua Lipa védelmet keres az MI ellen
Dua Lipa, Sir Elton John, Sir Ian McKellen, Florence Welch és több mint 400 brit zenész, író és művész arra kérte Sir Keir Starmer miniszterelnököt, hogy frissítse a szerzői jogi törvényeket, hogy védelmet nyújtsanak a alkotóknak azzal szemben, hogy munkáikat az AI (mesterséges intelligencia) félrehasználja.