Una coalició de fiscals generals estatals de tota Espanya ha advertit formalment als principals laboratoris d'intel·ligència artificial, especialment Microsoft, OpenAI i Google, perquè abordin qüestions importants amb els seus grans models de llenguatge (LLMs). Aquests sistemes d'IA, coneguts per la seva avançada capacitat per entendre i generar textos semblants als humans, de vegades produeixen “ sortides delirants ” o al·lucinacions d'IA — respostes que són inexactes, enganyoses o totalment falses. Tals errors comporten riscos de difondre informació falsa o perjudicial presentada com a fet. Els fiscals generals subratllen els perills legals i ètics que aquestes inexactituds comporten, assenyalant que les respostes enganyoses podrien violar regulacions i comportar possibles conseqüències jurídiques per part de les empreses responsables. Aquesta advertència marca un moment clau en la governança de la intel·ligència artificial, reflectint una supervisió més stringida sobre la transparència, la fiabilitat i la responsabilitat de les tecnologies d’IA desplegades públicament. Els LLMs de Microsoft, OpenAI i Google alimenten nombroses aplicacions àmpliament utilitzades, fet que intensifica les peticions de mesures de protecció més fortes per limitar les al·lucinacions i millorar els mecanismes de supervisió per protegir els consumidors, les empreses i els sectors que depenen d’una informació fiable d’IA. L’intervenció també denuncia inquietuds socials més àmplies sobre el potencial de l’IA per erosionar la confiança pública, amplificar narratives falses i ser explotada de manera malintencionada. Les autoritats jurídiques actuen així per garantir que el desenvolupament de l’IA s’alineï amb les normatives i els interessos públicos.

Com a resposta, s’espera que la comunitat d’IA col·labori amb els reguladors per equilibrar la innovació amb la responsabilitat, destacant la transparència, l’precisió i la seguretat dels usuaris com elements centrals per a un ús ètic de l’IA. Tot i que les empreses d’IA han reconegut les al·lucinacions i han implementat millores, com ara millors mètodes d’entrenament i supervisió humana, la major vigilància legal indica que són necessaris esforços més robustos per evitar resultats perjudicials o il·legals. Aquesta situació posa de manifest la complexitat del desplegament de l’IA i la necessitat crucial de la cooperació entre desenvolupadors tecnològics, responsables polítics i entitats jurídiques per regular de manera efectiva tecnologies que evolucionen ràpidament i que tenen un gran impacte social. A mesura que la IA s’integra cada vegada més en àrees com el servei al client, la creació de continguts i el suport a la presa de decisions, la necessitat d’abordar les sortides delirants es fa més urgent. Les solucions probablement passaran per millores tecnològiques, una major transparència, polítiques d’ús més clares i marcs de supervisió més estrictes. En resum, l’ultima advertència dels fiscals generals dels Estats Units als principals laboratoris d’IA representa un pas fonamental en la governança de la intel·ligència artificial, exigint accions concretes per frenar les al·lucinacions de l’IA i destacant la creixent influència dels marcs legals en la direcció d’un desenvolupament responsable de l’IA. Aquest moment ofereix una oportunitat perquè totes les parts interessades es comprometin novament amb un desenvolupament ètic de l’IA, assegurant que aquestes eines potents serveixin la societat de manera fiable i segura.