Vývojáři umělé inteligence (AI) vytvářejí AI "agenty", kteří mohou činit autonomní rozhodnutí, což je krok směrem k obecné umělé inteligenci (AGI) schopné překonat lidské kognitivní úkoly. Na rozdíl od chatbotů vyžadujících stálý lidský vstup jsou AI agenti navrženi tak, aby vykonávali úkoly s minimálním dohledem. Společnost OpenAI plánuje spustit takového agenta "Operator", který předpovídá budoucnost, kde AI agenti výrazně převýší počet lidí, jak předpověděl CEO Meta Mark Zuckerberg. Zatímco společnosti jako Google DeepMind a Salesforce propagují agenty pro zlepšení produktivity snížením jednotvárných prací, experti na AI varují, že rychlá komercializace by mohla ohrozit bezpečnost. Tyto AI nástroje by mohly revolučně změnit osobní i obchodní prostředí tím, že by spravovaly úkoly a přizpůsobovaly se preferencím. Například nadcházející agenti by mohli plánovat dovolené nebo autonomně poskytovat zákaznický servis. Přesto jejich integrace vyvolává významné právní a etické otázky.

Agentí nyní pomáhají v oblastech jako finance, vyvolávají debaty o odpovědnosti, když udělají chyby. To zahrnuje složité právní a morální otázky, jako zda by AI měla mít formu právní subjektivity, nebo jak zajistit jejich sladění s lidskými etickými standardy. Rychlý rozvoj AI, poháněný ekonomickými zájmy, riskuje, že předstihne regulační rámce. Srovnání s minulým vývojem technologií, jako jsou sociální média, ukazuje potenciální nebezpečí, pokud zůstanou bez dohledu. Výzva k opatrnému přístupu prosazuje zavedení regulací podobných těm ve farmacii nebo leteckém průmyslu před plnou komercializací silných AI systémů. Navzdory prvním regulačním snahám chybí komplexní rámce. Naléhavost je v vyvážení rizika s inovací, aby se zajistilo, že AI se bude vyvíjet způsobem, který je v souladu se společenskými hodnotami a předejde nezvratné škodě.