La Gaia Marcus, directora de l’Institut Ada Lovelace, ha demanat una regulació més estricta de la IA per garantir que aquestes tecnologies s’utilitzin de manera just, segura i d’acord amb les expectatives públiques. En una discussió recent amb la periodista del Financial Times Melissa Heikkilä, Marcus va manifestar preocupacions serioses sobre la concentració del poder de la IA en mans de pocs grans corporacions i va destacar la necessitat urgent de comprendre els impactes sociotècnics més amplis de les innovacions en IA. Va fer referència a dades d’enquestes emergents del Regne Unit que revelen un augment de la demanda pública de regulació de la IA. Segons aquestes dades, el 72 per cent dels responents britànics serien més còmodes si existissin lleis àmplies que regulessin l’ús de la IA, i un 88 per cent recolza les intervencions del govern destinades a prevenir danys una vegada que les tecnologies d’IA s’apliquin en contextos reals. Això demostra un clar desig públic de més supervisió i responsabilitat enmig de la progressió de les capacitats de la IA. Marcus va observar un canvi notable en l’enfocament de la indústria de la IA durant els últims anys. Inicialment, l’èmfasi era en el desenvolupament responsable de la IA, fent èmfasi en el disseny prudent i consideracions ètiques, però ara hi predomina una mentalitat de “construir ràpid” impulsada per l’ebullició i el desplegament ràpid. Va criticar aquesta tendència per possiblement posar la rapidesa i l’avantatge competitiu per sobre de la seguretat i la reflexió ètica. Els governs, especialment al Regne Unit, han estat objecte de crítiques per una acció inadequate en analitzar com les eines d’IA afecten la vida quotidiana de les persones en diversos sectors.

Marcus va cridar a una formulació de polítiques basada en l’evidència que vagi més enllà d’una regulació superficial per avaluar profundament els impactes socials, econòmics i legals de la IA. Aquesta avaluació és vital per protegir les poblacions vulnerables i assegurar que les tecnologies de la IA beneficiïn la societat en general i no només interessos narrows. Amb els agents d’IA i els assistents digitals que s’incorporen cada vegada més a la vida quotidiana, Marcus va destacar riscos urgents que han de ser atesos, com ara possibles efectes sobre la salut mental de les interaccions amb la IA, qüestions complexes de responsabilitat legal quan decisions guiades per IA causen perjudici, i la creixent concentració de mercat on els actors dominants controlen les infraestructures bàsiques de la IA, limitant la competència i la innovació. Va insistir que els ciutadans han de comunicar activament les seves expectatives als formuladors de polítiques per modelar la regulació de la IA. Garantir el benestar públic davant de la tecnologia en ràpida evolució és, finalment, responsabilitat de l’Estat, que ha de prioritzar els drets, la seguretat i la dignitat de les persones en els marcs de govern de la IA. Marcus va concloure dient que la societat ha de qüestionar críticament com les tecnologies de la IA influeixen en les estructures socials i en les realitats quotidianes. La pregunta essencial és si el futur modelat per la IA en ràpida creació s’alinea amb valors humans compartits com la justícia, la transparència i la equitat. Incorporar aquests principis al desenvolupament i la implementació de la IA és necessari per aprofitar els beneficis de la IA i minimitzar els danys. Sota el lideratge de Marcus, l’Institut Ada Lovelace continua treballant amb els responsables polítics, la indústria i el públic per promoure una governança de la IA transparent, inclusiva i ètica. A mesura que els sistemes d’IA són cada vegada més omnipresents, les demandes d’una regulació robusta i una supervisió pensada es fan més fortes, Reflectint preocupacions generalitzades i esperança en un futur en què la tecnologia serveixi la humanitat de manera responsable.