CHANDLER, AZ — Denna vecka fick Chris Pelkey, ett offer för rattrassel i Chandler, internationell uppmärksamhet när en AI-genererad version av honom användes för att leverera det sista vittnesmålet under domen för skytten. Domaren dömde tilltalade Gabriel Horcasitas till 10, 5 års fängelse. Efter domen lämnade försvararen Jason Lamm in en om överklagande omedelbart. ”Även om offer har rätt att tala till domstolen, kändes det fel att återskapa Chris Pelkey med hjälp av AI — och i stort sett sätta ord i hans mun utan att veta vad han faktiskt skulle säga — på många nivåer, ” sade Lamm. Han nämnde att hovrätterna nu står inför ett nästan oerhört beslut under de kommande månaderna om huruvida den AI-genererade videon kan ha påverkat Horcasitas straff. Jessica Gattuso, advokat för Pelkey-familjen, berättade för ABC15 per telefon att hon förväntar sig att domen kommer att stå fast eftersom de nuvarande lagarna stöder de åtgärder som vidtagits i domstolen. Gary Marchant, professor vid ASU och medlem i Arizonas högsta domstols AI-kommitté, kommenterade möjligheten till omprövning av domen: ”Om de finner att det inte var ett oskyldigt fel som påverkade utgången — och Horcasitas skulle ha fått en liknande påföljd oavsett — kan de tillåta att domen står.

Men de kan också avgöra att AI-skapade vittnesmål inte bör användas i framtiden. ” Han påminde om att högsta domstolen tidigare berättat för ABC15 att medan AI har ”stor potential”, kan det ”hindra eller störa rättvisan om det används på fel sätt. ” ”De som använder AI, inklusive domstolarna, bär ansvaret för att säkerställa att den är korrekt, ” betonade Marchant. Han varnade också för att detta fall kan öppna slussar för användning av AI i domstolar. ”Även om detta fall hanterades med goda intentioner och ärlighet, kan det lätt utnyttjas för mer bedrägliga, strategiska eller självsökande syften. Därför kan vi inte sätta ett prejudikat som tillåter falska videor i rätten, ” avslutade Marchant.