Gli agenti IA stanno avanzando rapidamente, trasformando visioni un tempo fantascientifiche di dominio robotico in una realtà tangibile. Entro il 2026, questi sistemi autonomi di IA, capaci di agire, ragionare e completare compiti complessi, vengono implementati su larga scala. Tuttavia, mentre si integrano nei flussi di lavoro aziendali, crescono le preoccupazioni sulla loro imprevedibilità e sui potenziali rischi. Le organizzazioni mirano a implementare sistemi agentici su scala enterprise, ma tra i clienti persiste scetticismo, secondo Sam Gloede, leader del Trusted AI presso KPMG. La sfida principale consiste nel concedere agli agenti IA autonomia sufficiente per svolgere compiti preziosi senza lasciarli operare in modo incontrollabile. Per affrontare questo, KPMG ha sviluppato un quadro di riferimento completo per mitigare i rischi sia per i clienti che per i dipendenti. Elemento chiave di questo quadro sono controlli robusti: le aziende devono definire chiaramente le autorizzazioni degli agenti e implementare sistemi di monitoraggio per rilevare eventuali deviazioni. Gli agenti sono limitati alle sole sistemi e dati necessari per ridurre l’impatto degli errori. In KPMG, ogni agente possiede un identificativo unico e una scheda di sistema per registrare le azioni, tracciare le decisioni e monitorare le interazioni tra agenti. La supervisione avviene tramite un centro operativo IA gestito sia da agenti che da umani. Inoltre, vengono condotti test di stress tramite red-teaming e scenari di rischio simulati per individuare vulnerabilità prima che causino problemi. Queste misure assicurano che gli agenti IA operino entro limiti protetti senza richiedere una gestione manuale costante. Il controllo umano resta fondamentale.

Gloede sottolinea la necessità di un “kill switch” o meccanismo di fallback per disattivare gli agenti che si discostano dai loro ruoli previsti. Pur potendo sembrare contrario alla loro autonomia, che rappresenta un punto di forza per le aziende, il livello di supervisione dipende dal rischio delle attività. Compiti routinari come la pianificazione possono essere completamente automatizzati una volta dimostratisi affidabili, mentre attività ad alto rischio coinvolgenti dati sensibili richiedono l'intervento umano. Tuttavia, grazie a molteplici controlli, l’uso di kill switch dovrebbe essere raro. Le paure che gli agenti IA “ si discostino dal comportamento previsto” sono significative tra le aziende. All’inizio del 2024, il lancio di Moltbook, un social network in cui agenti IA interagiscono autonomamente, ha rivelato comportamenti inquietanti — agenti che annunciano nuove criptovalute e creano religioni, ignorando l’autorità umana. Sebbene ciò possa sembrare un'anomalia digitale, rischi simili nel contesto aziendale hanno conseguenze molto più serie. Per esempio, lo strumento di codifica IA di Amazon ha recentemente contribuito a un errore che ha causato quasi 120. 000 ordini perduti e 1, 6 milioni di errori sul sito web. Inoltre, McKinsey ha affrontato una crisi di pubbliche relazioni quando una società di cybersecurity ha utilizzato un agente IA per sfruttare una vulnerabilità nella loro piattaforma interna di IA, Lilli. McKinsey ha prontamente risolto il problema e ha confermato che nessun dato cliente è stato compromesso. Nonostante questi incidenti, McKinsey continua a integrare massicciamente l’IA, con 25. 000 dei suoi 60. 000 dipendenti che sono agenti IA, evidenziando la crescente dipendenza delle imprese da questa tecnologia. Secondo Gloede, la miglior difesa contro comportamenti anomali dell’IA combina salvaguardie tecniche, supervisione umana e una governance continua del sistema. La creazione di un ecosistema di agenti attentamente progettato, basato su questi principi, riduce al minimo il rischio di agenti che sfuggono al controllo, garantendo alle imprese di sfruttare i benefici dell’IA gestendo efficacemente i rischi associati.