Koalícia generálnych prokurátorov štátov z celých Spojených štátov oficiálne varovala popredné laboratóriá v oblasti umelej inteligencie, konkrétne Microsoft, OpenAI a Google, vyzývajúc ich, aby riešili významné problémy s ich veľkými jazykovými modelmi (LLM). Tieto systémy AI, známe svojou pokročilou schopnosťou chápať a generovať text podobný ľudskému, niekedy produkujú „iluzórne výstupy“ alebo halucinácie AI — odpovede, ktoré sú nepresné, zavádzajúce alebo úplne vymyslené. Takéto chyby predstavujú riziko šírenia nepravdivých alebo škodlivých informácií prezentovaných ako fakty. Generálni prokurátori zdôrazňujú právne a etické nebezpečenstvá, ktoré tieto nepresnosti predstavujú, pričom poznamenávajú, že zavádzajúce výstupy môžu porušiť predpisy a viesť k potenciálnym právnym dôsledkom pre zodpovedné spoločnosti. Táto výstraha znamená kľúčový moment v správe AI, odráža zvýšené sledovanie transparentnosti, spoľahlivosti a zodpovednosti AI technológií vtedy, keď sú verejne nasadzované. LLM od Microsoftu, OpenAI a Google poháňajú množstvo široko používaných aplikácií, čo zvyšuje požiadavky na posilnenie opatrení na obmedzenie halucinácií a zlepšenie dohľadových mechanizmov na ochranu spotrebiteľov, podnikov a odvetví závislých od presných informácií od AI. Zásah tiež signalizuje širšie spoločenské obavy o potenciál AI narušiť verejnú dôveru, zvýšiť šírenie falošných naratívov a byť zneužitý zlomyseľnými spôsobmi. Právne autority tak konajú, aby zabezpečili, že vývoj AI bude v súlade s regulačnými štandardmi a verejným záujmom.

Očakáva sa, že komunita AI bude spolupracovať s regulátormi na vyvážení inovácií a zodpovednosti, pričom zdôrazňuje transparentnosť, presnosť a bezpečnosť používateľa ako kľúčové aspekty etického využívania AI. Hoci spoločnosti vyvíjajúce AI uznali halucinácie a urobili pokroky, napríklad lepším tréningom a ľudským dohľadom, zvýšená právna kontrola naznačuje, že je potrebné robiť ešte intenzívnejšie opatrenia na prevenciu škodlivých alebo ilegálnych dôsledkov. Táto situácia podčiarkuje zložitosť nasadzovania AI a rozhodujúci význam spolupráce medzi vývojármi technológií, tvorcami politík a právnymi inštitúciami pri efektívnej regulácii rýchlo sa vyvíjajúcich technológií s rozsiahlym spoločenským dopadom. Ako sa AI čoraz viac integruje do oblastí ako zákaznícky servis, tvorba obsahu a podpora rozhodovania, stáva sa riešenie problémov s iluzórnymi výstupmi naliehavejším. Riešenia pravdepodobne budú zahŕňať technologické vylepšenia, väčšiu transparentnosť, jasnejšie podmienky používania a posilnené dohľadové mechanizmy. Stručne povedané, nedávne varovanie od generálnych prokurátorov štátov USA voči popredným AI laboratóriám predstavuje kľúčový krok v správe AI, ktorý vyžaduje konkrétne kroky na obmedzenie halucinácií AI a zdôrazňuje rastúci vplyv právnych rámcov na riadenie zodpovedného vývoja umelej inteligencie. Táto chvíľa predstavuje príležitosť pre všetkých zainteresovaných zopakovať si záväzok k etickému rozvoju AI a zabezpečiť, že tieto mocné nástroje budú slúžiť spoločnosti spoľahlivo a bezpečne.