Tehisintellekti (TI) arendajad loovad tehisintellekti "agente", kes suudavad teha autonoomseid otsuseid, liikumine üldise tehisintellekti (AGI) poole, mis on võimeline ületama inimmõistuse ülesandeid. Erinevalt vestlusrobotitest, mis vajavad pidevalt inimeste sisendit, on tehisintellekti agendid loodud ülesandeid täitma minimaalse järelevalvega. OpenAI plaanib sellise agendi käivitamist nimega "Operaator", mis ennustab tulevikku, kus tehisintellekti agendid ületavad arvuliselt inimesi, nagu ennustab Meta tegevjuht Mark Zuckerberg. Kuigi sellised ettevõtted nagu Google DeepMind ja Salesforce propageerivad agente produktiivsuse suurendamiseks, vähendades rutiinset tööd, hoiavad TI eksperdid, et kiire kasumlikkus võib ohustada turvalisust. Need TI tööriistad võivad ümber kujundada isiklikke ja ärikeskkondi, hallates ülesandeid ja kohandudes eelistustega. Näiteks võiksid tulevased agendid iseseisvalt reise planeerida või klienditeenindust läbi viia. Sellest hoolimata tõstatab nende integreerimine märkimisväärseid juriidilisi ja eetilisi küsimusi.

Agendid aitavad juba sellistes valdkondades nagu rahandus, tekitades arutelusid vastutuse üle, kui nad teevad vigu. See hõlmab keerulisi juriidilisi ja moraalseid küsimusi, näiteks kas TI-l peaks olema mingi õigussubjektsuse vorm või kuidas tagada nende vastavus inimlikele eetilistele standarditele. TI kiire areng, mida ajendavad majanduslikud huvid, ohustab reguleeriraamistike mahajäämust. Võrdlused varasemate tehnoloogiaarendustega, nagu sotsiaalmeedia, toovad esile võimalike ohtude, kui neid piisavalt ei kontrollita. Ettevaatliku lähenemise soovitus rõhutab regulatsioonide rakendamist, mis sarnanevad farmaatsia- või lennundussektorile, enne kui võimsad TI-süsteemid täielikult kommertsialiseeritakse. Ehkki esialgsed regulatiivsed jõupingutused eksisteerivad, puuduvad laiaulatuslikud raamistikud. Kiirustamine seisneb riski ja innovatsiooni tasakaalustamisel, tagamaks, et TI areneb viisil, mis on kooskõlas ühiskondlike väärtustega, vältides samal ajal pöördumatut kahju.