Gaia Marcus, direktör för Ada Lovelace-institutet, har uppmanat till stärkt reglering av AI för att säkerställa att dessa teknologier används rättvist, säkert och i linje med allmänhetens förväntningar. I en nyligen genomförd diskussion med Financial Times-journalisten Melissa Heikkilä uttryckte Marcus allvarliga oro över koncentrationen av AI-makt hos några få stora företag och betonade det akuta behovet av att förstå de bredare socio-tekniska konsekvenserna av AI-innovationer. Hon hänvisade till emerging undersökningsdata från Storbritannien som visar ett ökat offentligt krav på reglering av AI. Enligt denna data skulle 72 procent av britterna känna sig tryggare om omfattande lagar styr användningen av AI, och 88 procent stöder statliga ingripanden för att förhindra skada när AI-teknologier används i verkliga sammanhang. Detta visar ett tydligt offentligt behov av ökad tillsyn och ansvarstagande i takt med att AI:s möjligheter utvecklas. Marcus noterade en märkbar förändring i AI-industrins inställning under de senaste åren. Ursprungligen låg fokus på ansvarsfull AI-utveckling, med betoning på försiktig design och etiska överväganden, men nu råder en utbredd "bygga snabbt"-mentalitet som drivs av hype och snabb utplacering. Hon kritiserade denna trend för att potentiellt sätta snabbhet och konkurrensfördel framför säkerhet och etisk reflektion. Regeringar, särskilt i Storbritannien, har pekats ut för bristande åtgärder när det gäller att analysera hur AI-verktyg påverkar människors vardag inom olika sektorer.

Marcus efterlyste evidensbaserad policyskapning som går bortom ytlig reglering för att djupare bedöma AI:s sociala, ekonomiska och juridiska påverkan. En sådan utvärdering är avgörande för att skydda sårbara grupper och säkerställa att AI-teknologier gagnar samhället som helhet snarare än enbart smala intressen. Med AI-agenter och digitala assistenter som blir alltmer integrerade i vardagen lyfte Marcus fram akuta risker som behöver uppmärksammas, inklusive möjliga effekter på mental hälsa vid interaktion med AI, komplicerade juridiska ansvarsfrågor när AI-drivna beslut orsakar skada, och växande marknadskoncentration där dominerande aktörer styr över kärninfrastrukturer för AI, vilket begränsar konkurrens och innovation. Hon betonade att medborgare aktivt måste kommunicera sina förväntningar till beslutsfattare för att forma AI-regleringen. Att skydda allmänhetens välfärd i en tid av snabb teknologisk utveckling är i slutändan statens ansvar, vilket kräver att regeringar prioriterar människors rättigheter, säkerhet och värdighet i ramverk för AI-styrning. Marcus avslutade med att uppmana samhället att kritiskt granska hur AI-teknologier påverkar sociala strukturer och vardagsliv. Den centrala frågan är om de framtider som formar sig genom den snabba utvecklingen av AI stämmer överens med gemensamma mänskliga värderingar som rättvisa, öppenhet och rättvisa. Att integrera dessa principer i AI:s utveckling och användning är nödvändigt för att dra nytta av AI:s potential samtidigt som skador minimeras. Under Marcus ledning fortsätter Ada Lovelace-institutet att arbeta med beslutsfattare, näringsliv och allmänhet för att främja transparent, inkluderande och etisk AI-styrning. När AI-systemen blir alltmer ingripande växer också kraven på robust reglering och eftertänksam tillsyn, vilket speglar en utbredd oro och hopp om en framtid där teknologin ansvarsfullt tjänar mänskligheten.