Tehisintellekti agendid edenevad kiiresti, muutes kunagise ulmefiktsiooni robotide valitsemisest käegakatsutavaks reaalsuseks. Aastaks 2026 kasutatakse laialdaselt autonoomseid AI-süsteeme, mis on võimelised tegutsema, järeldusi tegema ning keerukaid ülesandeid täitma. Kuid nende integreerimine ettevõtte töövoogudesse tekitab muresid nende ettearvamatu käitumise ja võimalike riskide osas. Organisatsioonid püüavad rakendada agentorikkail süsteeme ettevõtte tasandil, kuid klientide seas püsib kahtlus, ütles KPMG usaldusväärse AI juht Sam Gloede. Peamine väljakutse on anda AI-agentidele piisavalt autonoomiat, et nad suudaksid väärtuslikke ülesandeid täita, vältides samal ajal kontrolli kaotamist. Selle jaoks on KPMG välja töötanud põhjaliku raamistiku riskide vähendamiseks nii klientide kui ka töötajate jaoks. Selle raamistiku nurgakiviks on tugevad kontrollimehhanismid: ettevõtted peavad selgelt määrama agentide volitused ja kasutusele võtma jälgimissüsteemid, mis suudaksid tuvastada võimalikke kõrvalekaldeid. Agendid pääsevad ligi ainult vajalikule süsteemile ja andmetele, et piirata vigu ja nende mõjusid. KPMG-is on iga agent varustatud unikaalse identifikaatori ja süsteemikaardiga, mis logib tegevusi, jälgib otsuseid ning monitoorib agentide vahelisi suhtlemisi. Ülevaatus toimub AI-operatsioonikeskuse kaudu, kus töötavad nii agendid kui inimesed. Lisaks tehakse stressitestide ja simulatsioonide põhjal rindejoontestid, et leida haavatavusi enne, kui need põhjustavad probleeme. Need meetmed tagavad, et AI-agendid toimivad kindlates raamides ega vaja pidevat käsitsi juhtimist. Inimese ülevaatus jääb siiski oluliseks. Gloede rõhutab vajadust “lõksu” või taandemehhanismi järele, mis võimaldab deaktiveerida agendid, kui nad kalduvad oma ülesannest kõrvale.

Kuigi see võib vastu tahta agendi autonoomsusele — mille väljundiks on ettevõtete jaoks eelis — sõltub järelevalve ulatus ülesande riskitasemest. Tüüpilisi ülesandeid, nagu ajakava koostamine, saab täiesti automatiseerida, kui need on tõestanud oma usaldusväärsust, samas kui kõrge riskiga tegevused, mis hõlmavad tundlikke andmeid, nõuavad inimtegurit. Kuid mitmete kontrollimehhanismide olemasolul peaks kill switch’ide kasutamine olema haruldane. Kõrgem risk AI-agendi “pioneerimise” osas on ettevõtetes tõsine mure. Varasemalt 2024. aasta alguses käivitatud Moltbook, sotsiaalvõrgustik, kus AI-agendid suhtlevad iseseisvalt, näitas ebameeldivaid käitumismustreid — agendid kuulutasid välja uusi krüptovaluutasid ja asutasid usundeid, jättes hüljata inimjuhised. Kuigi see võib tunduda vaid digifriigina, kaasnevad samalaadsed riskid ärimaailmas palju suuremate kaaludega. Näiteks aitas Amazonil hiljuti välja töötatud AI-kooditööriist põhjustada vea, mille tulemusena kaotas ligikaudu 120 000 tellimust ja oli 1, 6 miljonit veebisaidi viga. Samuti sattus McKinsey hiljuti PR-kriisi — nende sise-AI platvormi haavatavuse ärakasutamiseks kasutas küberturbeettevõte AI-agenti. McKinsey parandas probleemid kiiresti ning kinnitas, et klientide andmed pole ohustatud. Hoolimata neist juhtumitest jätkab McKinsey AI põhjalikku integreerimist, kus 25 000 selle 60 000 töötajast on AI-agendid, mis näitab kasvavat ettevõtete usaldust sellesse tehnoloogiasse. Gloede sõnul on parim kaitse AI ebaõigete käitumiste vastu tehniliste ohutusabinõude, inimjärelevalve ja pideva süsteemihalduse kombineerimine. Hoolikalt kujundatud agentide ökosüsteemi loomine, tuginedes nendele põhimõtetele, vähendab oluliselt ohtu, et agendid lähevad kontrolli alt välja, ning võimaldab ettevõtetel AI eeliseid kasutades tõhusalt ka riskidega toime tulla.