Þróunaraðilar gervigreindar (AI) eru að skapa gervigreindar „umboðsmenn“ sem geta tekið sjálfstæðar ákvarðanir, stökk fram á við til almennar gervigreindar (AGI) sem getur unnið verk sem eru meiri en mannleg vitræn verkefni. Ólíkt spjallforritum sem krefjast stöðugra mannlegra ílag, eru AI umboðsmenn hannaðir til að framkvæma verkefni með lágmarks eftirliti. OpenAI hyggst setja á markað slíkan umboðsmann, „Operator, “ og spáir fyrir um framtíð þar sem gervigreind umboðsmenn verða mun fleiri en menn, eins og Meta forstjórinn Mark Zuckerberg spáir. Þó að AI fyrirtæki eins og Google DeepMind og Salesforce styrki umboðsmenn til að auka skilvirkni með því að draga úr lítilsverðum verkum, vara gervigreind sérfræðingar við að hraðvirk markaðssetning gæti stefnt öryggi í hættu. Þessi gervigreindartól gætu byltingarkennt persónuleg og viðskiptatengd umhverfi með því að stjórna verkefnum og aðlagast óskum. Til dæmis gætu komandi umboðsmenn skipulagt frí eða sinnt þjónustuveri sjálfstætt. Samt sem áður veldur samþætting þeirra miklum lagalegum og siðferðilegum spurningum.

Umboðsmenn aðstoða nú á sviðum eins og fjármálum, sem vekur umræður um ábyrgð þegar þeir gera mistök. Þetta felur í sér flókin lagaleg og siðferðileg atriði, eins og hvort gervigreind ætti að hafa einhvers konar lagalegan persónuleika eða hvernig tryggja megi að þeir séu í takt við siðferðisstaðla manna. Ör hröðun gervigreindar, ýtt af efnahagslegum áhuga, býður hættu á að fara hraðar en reglugerðarrammi. Samanburðir við fyrri tækniframfarir eins og samfélagsmiðla sýna hugsanlegar hættur ef ekki er tekið á þeim. Köllun eftir varfærni með því að innleiða reglugerðir svipaðar þeim sem eru í lyfja- eða fluggeiranum áður en kraftmiklar gervigreindarkerfi verða að fullu markaðsett er mikilvæg. Þrátt fyrir frumsteg reglugerðaraðgerða vantar yfirgripsmikla ramma. Brýn nauðsyn er á að halda jafnvægi milli áhættu og nýsköpunar, tryggja að þróun gervigreindar sé í samræmi við samfélagslegar gildi meðan hún forðast óafturkræft tjón.