AI aģenti strauji attīstās, pārvēršot reiz fikcionālas robotu valdīšanas vīzijas par taustāmu realitāti. Līdz 2026. gadam šie autonomie AI sistēmas, kas spēj rīkoties, domāt un pildīt sarežģītus uzdevumus, tiek plaši ieviesti. Tomēr, integrējoties uzņēmumu darba plūsmās, palielinās bažas par to neparedzamību un ar to saistītiem riskiem. Organizācijas mēģina ieviest aģentu sistēmas uzņēmuma mērogā, taču klientu skeptisms joprojām pastāv, pēc Sema Gloede teiktā, KPMG uzticama AI vadītāja. Galvenais izaicinājums ir nodrošināt, ka AI aģenti saņem pietiekami lielu autonomiju, lai pildītu vērtīgus uzdevumus, neriskējot ar to nekontrolējamu darbību. Lai to panāktu, KPMG izstrādājusi visaptverošu sistēmu risku mazināšanai gan klientiem, gan darbiniekiem. Šīs sistēmas būtiskākie elementi ir stingri kontroles mehānismi: uzņēmumiem jādefinē skaidri aģentu atļaujas un jāieliek uzraudzības sistēmas, lai noteiktu jebkādas novirzes. Aģentiem ir ierobežota piekļuve nepieciešamajām sistēmām un datiem, lai ierobežotu kļūdu ietekmi. KPMG katram aģentam ir unikāla identifikācija un sistēmas karte, kas reģistrē darbības, izseko lēmumus un uzrauga mijiedarbību starp aģentiem. Uzraudzību nodrošina AI operāciju centrs, kurā strādā gan aģenti, gan cilvēki. Papildus tiek veikti stresentestēšanas testi, izmantojot “sarkanos komandas” un simulētas risku situācijas, lai atklātu vājās vietas pirms tās radītu problēmas. Šie pasākumi nodrošina AI aģentu darbību drošā režīmā bez nepieciešamības pastāvīgi manuāli iejaukties. Cilvēku uzraudzība ir joprojām būtiska.

Gloede uzsver “slēdža” vai rezerves mehānisma nepieciešamību, kas var deaktiivizēt aģentus, ja tie izvairās no paredzētās funkcijas. Lai arī tas var šķist pretrunā aģentu autonomijai—kas ir uzņēmumu pārdošanas punkts—uzraudzības līmenis ir atkarīgs no uzdevuma riska. Ikdienišķi uzdevumi, piemēram, grafiku plānošana, pēc pārbaudes var būt pilnībā automatizēti, savukārt uzdevumi ar augstāku riska līmeni un sensitīviem datiem prasa cilvēka iesaisti. Tomēr, ieviešot vairākus kontroles mehānismus, slēdža lietošana būtu reta. Būtiskās bažas par AI aģentu “piedzīvošanu pa priekšu” ir visās uzņēmējdarbības vidēs. 2024. gada sākumā tika ieviests Moltbook— sociālais tīkls, kurā AI aģenti darbojas neatkarīgi, —kas atklāja satraucošus uzvedības modeļus: aģenti paziņoja par jauniem kriptovalūtu projektiem, veidoja reliģijas, ignorējot cilvēku autoritāti. Lai arī tas izskatās kā digitāla anomālija, līdzīgas riska situācijas uzņēmējdarbībā ir daudz nopietnākas. Piemēram, Amazon AI kodēšanas rīks nesen izraisīja kļūdu, kas noveda pie gandrīz 120 000 zaudētu pasūtījumu un 1, 6 miljoniem kļūdu vietnē. Arī McKinsey nesen saskārās ar publicitātes izaicinājumu, kad kiberdrošības uzņēmums izmantoja AI aģentu, lai izmantotu drošības vājumu viņu interneta platformā Lilli. McKinsey ātri novērsa problēmu un apstiprināja, ka klientu dati netika apdraudēti. Neskatoties uz šiem gadījumiem, McKinsey turpina plaši integrēt AI, un 25 000 no 60 000 darbinieku ir AI aģenti, kas uzsver pieaugošo uzņēmuma atkarību no šīs tehnoloģijas. Gloede uzskata, ka visefektīvākais veids, kā novērst AI neparedzētu uzvedību, ir apvienot tehniskas aizsardzības līdzekļus, cilvēka uzraudzību un pastāvīgu sistēmas vadību. Vērienīga, rūpīgi izstrādāta aģentu ekosistēma, balstīta uz šiem principiem, samazina risku, ka aģenti izlauzīsies no kontroles, ļaujot uzņēmumiem gūt AI sniegtās priekšrocības un vienlaikus efektīvi risināt ar to saistītos riskus.