O Coaliție a Procurorilor Generali din toate statele din Statele Unite a emis oficial un avertisment către principalele laboratoare de inteligență artificială, în special Microsoft, OpenAI și Google, solicitându-le să abordeze problemele semnificative ale modelelor lor large language models (LLMs). Aceste sisteme AI, cunoscute pentru abilitatea lor avansată de a înțelege și de a genera texte asemănătoare celor umane, produc uneori “ rezultate iluzii oțelate” sau halucinații AI — răspunsuri inexacte, înșelătoare sau complet fabricate. Astfel de erori prezintă riscuri de răspândire a informațiilor false sau dăunătoare prezentate drept adevăr. Procurorii generali evidențiază pericolele legale și etice pe care aceste inexactități le pot genera, menționând că rezultate înșelătoare ar putea încălca reglementări și ar putea duce la consecințe legale pentru companiile responsabile. Acest avertisment marchează un moment crucial în guvernanța AI, reflectând o supraveghere crescută asupra transparenței, fiabilității și responsabilității tehnologiilor AI utilizate public. Modelele LLM ale Microsoft, OpenAI și Google alimentează numeroase aplicații larg folosite, intensificând apelurile pentru măsuri de protecție mai stricte pentru a limita halucinațiile și pentru a îmbunătăți mecanismele de supraveghere în scopul protejării consumatorilor, afacerilor și sectorelor dependente de informații precise despre AI. Intervenția semnalează, de asemenea, îngrijorări mai ample ale societății privind potențialul AI de a eroda încrederea publicului, de a amplifica narațiuni false și de a fi exploatat malițios. Autoritățile legale acționează astfel pentru a asigura că dezvoltarea AI se aliniază cu standardele de reglementare și interesul public.

Ca răspuns, comunitatea AI este așteptată să colaboreze cu autoritățile de reglementare pentru a echilibra inovația cu responsabilitatea, punând accent pe transparență, acuratețe și siguranța utilizatorului ca elemente centrale ale utilizării etice a AI. Deși companiile din domeniu au recunoscut halucinațiile și au făcut îmbunătățiri — precum metode mai bune de antrenament și supraveghere umană — creșterea supravegherii legale indică nevoie de eforturi mai robuste pentru a preveni rezultate dăunătoare sau ilegale. Această situație subliniază complexitatea implementării AI și necesitatea crucială a colaborării între dezvoltatorii tehnologici, factorii de decizie politică și entitățile legale pentru a reglementa eficient tehnologiile în rapidă evoluție, cu impact vast asupra societății. Pe măsură ce AI devine tot mai integrat în domenii precum serviciile către clienți, crearea de conținut și sprijin pentru decizii, abordarea rezultatelor iluzii devine tot mai urgentă. Soluțiile vor include probabil îmbunătățiri tehnologice, o transparență mai mare, politici de utilizare clare și cadre de supraveghere mai stricte. În concluzie, avertismentul recent al procurorilor generali din SUA către principalele laboratoare de AI reprezintă un pas crucial în guvernanța AI, solicitând măsuri concrete pentru a reduce halucinațiile AI și evidențiind influența în creștere a cadrelor legale în orientarea progresului responsabil al AI. Acest moment reprezintă o oportunitate pentru toți stakeholderii de a se angaja din nou în dezvoltarea etică a AI, asigurând că aceste instrumente puternice servesc societatea în mod fiabil și sigur.