Valsts prokuroru ģenerāļu koalīcija no visas Amerikas Savienotajām Valstīm oficiāli brīdināja vadošās mākslīgā intelekta laboratorijas, īpaši Microsoft, OpenAI un Google, aicinot tās risināt būtiskas problēmas ar saviem lielajiem valodas modeļiem (LLM). Šie AI sistemi, pazīstami ar savu attīstīto spēju saprast un ģenerēt cilvēka līdzīgu tekstu, dažkārt rada “delīziskas atbildes” vai AI halucinācijas — atbildes, kas ir neprecīzas, maldinošas vai pilnībā izdomātas. Šādas kļūdas rada risku izplatīt nepatiesu vai kaitīgu informāciju, kas tiek pasniegta kā fakts. Prokurori uzsver šo kļūdu juridiskos un ētiskos draudus, norādot, ka maldinošas atbildes var pārkāpt noteikumus un novest pie juridiskām sekām atbildīgajām uzņēmumiem. Šis brīdinājums ir būtisks solis AI pārvaldībā, liecinot par pastiprinātu uzraudzību par AI tehnoloģiju caurspīdību, uzticamību un atbildību, kas ir plaši izplatītas. Microsoft, OpenAI un Google LLM tehnoloģijas nodrošina daudzus plaši lietotus lietojumus, pastiprinot aicinājumus ievērot stingrākas drošības prasības, lai ierobežotu halucinācijas un uzlabotu uzraudzības mehānismus, kas aizsargā patērētājus, uzņēmumus un no precīzas AI informācijas atkarīgās nozares. Šī iejaukšanās arī signalizē plašākas sabiedrības bažas par AI potenciālo ietekmi uz sabiedrības uzticību, īstās informācijas izplatīšanu un ļaundabīgu izmantošanu. Juridiskās autoritātes tādējādi rīkojas, lai nodrošinātu, ka AI attīstība atbilst regulējošajiem standartiem un sabiedrības interesēm.

Atbildot uz to, AI kopiena tiek aicināta sadarboties ar regulatoriem, lai līdzsvarotu inovācijas ar atbildību, uzsverot caurspīdīgumu, precizitāti un lietotāju drošību kā galvenāsētiskus lietošanas principus. Lai arī AI uzņēmumi ir atzinīgi novērtējuši halucinācijas un veikuši uzlabojumus, piemēram, labākas trenēšanas metodes un cilvēka uzraudzību, pastiprinātā juridiskā uzraudzība norāda, ka ir nepieciešami vēl stingrāki pasākumi, lai novērstu kaitīgas vai nelegālas sekas. Šī situācija uzsver AI palielināto iesaisti un nepieciešamību pēc ciešas sadarbības starp tehnoloģiju izstrādātājiem, politikas veidotājiem un juridiskajām institūcijām, lai efektīvi regulētu strauji attīstošas tehnoloģijas ar plašu sabiedrības ietekmi. Kā AI arvien vairāk tiek integrēts klientu apkalpošanā, satura veidošanā un lēmumu pieņemšanas palīdzībā, delīzisko atbilžu risināšana kļūst steidzamāka. Risinājumi, visticamāk, ietvers tehnoloģisku uzlabojumu, lielāku caurspīdīgumu, skaidrākas lietošanas politikas un stingrākas uzraudzības sistēmas. Kopsavilkumā, nesenais brīdinājums no ASV štatu prokuroru ģenerāļiem vadošajām AI laboratorijām ir izšķirošs solis AI pārvaldībā, prasot konkrētus pasākumus, lai ierobežotu AI halucinācijas, un uzsver spēkā esošo juridisko struktūru pieaugošo nozīmi atbildīgas AI attīstības virzīšanā. Šī ir iespēja visiem ieinteresētajiem pilnībā apņemties ētiskas AI attīstības principus, nodrošinot, ka šie jaudīgie rīki kalpo sabiedrībai droši un uzticami.