Ontwikkelaars van kunstmatige intelligentie (AI) creëren AI-"agenten" die autonome beslissingen kunnen nemen, een sprong in de richting van kunstmatige algemene intelligentie (AGI) die menselijke cognitieve taken kan overstijgen. In tegenstelling tot chatbots die constante menselijke invoer vereisen, zijn AI-agenten ontworpen om taken met minimale supervisie uit te voeren. OpenAI is van plan een dergelijke agent te lanceren, genaamd "Operator", en voorspelt een toekomst waarin AI-agenten mensen veruit zullen overtreffen in aantal, zoals voorspeld door Meta-CEO Mark Zuckerberg. Terwijl AI-bedrijven zoals Google DeepMind en Salesforce agenten promoten om de productiviteit te verbeteren door het verminderen van repetitief werk, waarschuwen AI-experts dat snelle commercialisatie de veiligheid in gevaar kan brengen. Deze AI-tools zouden persoonlijke en zakelijke omgevingen kunnen revolutioneren door taken te beheren en zich aan te passen aan voorkeuren. Zo zouden aankomende agenten autonoom vakanties kunnen plannen of klantenservice kunnen uitvoeren. Hun integratie roept echter aanzienlijke juridische en ethische vragen op.

Agenten helpen nu in sectoren zoals financiën, wat discussies oproept over verantwoordelijkheid als ze fouten maken. Dit roept complexe juridische en morele kwesties op, zoals of AI een vorm van juridische persoonlijkheid zou moeten hebben of hoe te zorgen dat ze in overeenstemming zijn met menselijke ethische normen. De snelle vooruitgang van AI, aangewakkerd door economische belangen, dreigt de regelgevende kaders te snel voorbij te snellen. Vergelijkingen met eerdere technologische ontwikkelingen zoals sociale media tonen de potentiële gevaren van ongereguleerde vooruitgang. Er klinkt een oproep voor een voorzichtige aanpak, met de suggestie om regelgeving in te voeren vergelijkbaar met die in de farmaceutische of lucht- en ruimtevaartindustrie voordat krachtige AI-systemen volledig worden gecommercialiseerd. Ondanks voorlopige regelgevende inspanningen, ontbreekt een uitgebreid kader. De urgentie ligt in het balanceren van risico’s met innovatie, zodat AI zich ontwikkelt op een manier die in lijn is met maatschappelijke waarden en onomkeerbare schade wordt voorkomen.