Koalicija državnih odvjetnika općina širom Sjedinjenih Država službeno je upozorila vodeće laboratorije za umjetnu inteligenciju, posebice Microsoft, OpenAI i Google, pozivajući ih da se pozabave značajnim problemima njihovih velikih jezičnih modela (LLM). Ovi AI sustavi, poznati po svojoj naprednoj sposobnosti razumijevanja i generiranja teksta nalik ljudskom, ponekad proizvode "zabludujuće izlaze" ili halucinacije AI, odgovore koji su netočni, zavaravajući ili potpuno izmišljeni. Takve pogreške nose rizike od širenja lažnih ili štetnih informacija prikazanih kao činjenice. Odvjetnici ističu pravne i etičke opasnosti koje ove netočnosti predstavljaju, navodeći da zavaravajući rezultati mogu prekršiti regulative i dovesti do mogućih pravnih posljedica za odgovorne tvrtke. Ovaj upozorenje označava ključni trenutak u upravljanju AI, odražavajući pojačanu kontrolu nad transparentnošću, pouzdanošću i odgovornošću AI tehnologija koje se koriste javno. LLM-ovi Microsofta, OpenAI-ja i Googlea pokreću brojne široko korištene aplikacije, pojačavajući zahtjeve za snažnijim zaštitnim mjerama za ograničavanje halucinacija i poboljšanje nadzornih mehanizama kako bi se zaštitili potrošači, poslovanja i sektori koji ovise o točnim informacijama iz AI-a. Ova intervencija također ukazuje na širu društvenu zabrinutost zbog potencijala AI-a da uništi povjerenje javnosti, pojača lažne narative i bude iskorišten zlonamjerno. Pravni autoriteti stoga djeluju kako bi osigurali da razvoj AI-a bude usklađen s regulatornim standardima i interesima javnosti.

Kao odgovor, očekuje se da će zajednica za AI surađivati s regulatorima na balansiranju inovacija i odgovornosti, ističući transparentnost, točnost i sigurnost korisnika kao ključne elemente etičke uporabe AI. Iako su tvrtke za AI prepoznale halucinacije i napravile poboljšanja — poput boljih metoda treninga i ljudskog nadzora — pojačana pravna provjera ukazuje na to da su potrebni snažniji napori kako bi se spriječili štetni ili nezakoniti ishod. Ova situacija ističe složenost implementacije AI te ključnu potrebu za suradnjom među razvojnim timovima tehnologije, tvorcima politika i pravnim tijelima radi učinkovite regulacije brzo razvijajućih tehnologija s širokim društvenim utjecajem. Kako se AI sve više integrira u područja poput korisničke podrške, stvaranja sadržaja i odlučivanja, rješavanje zabludujućih izlaza postaje hitno. Rješenja će vjerojatno uključivati tehnološka poboljšanja, veću transparentnost, jasnije politike korištenja i snažnije okvire nadzora. Ukratko, nedavno upozorenje američkih državnih odvjetnika vodećim labaratorijima za AI predstavlja ključni korak u upravljanju AI-jem, zahtijevajući konkretne mjere za suzbijanje AI halucinacija i ističući rastući utjecaj pravnih okvira u vođenju odgovornog razvoja AI. Ovaj trenutak pruža priliku svim dionicima da ponovno posvete pažnju etičkom razvoju AI, osiguravajući da ti moćni alati pouzdano i sigurno koriste društvu.