Secondo Microsoft, c'è stata un'importante crescita negli attacchi informatici da parte di criminali, truffatori e agenzie di intelligence, raggiungendo un livello di "complessità senza precedenti" che può essere affrontato in modo efficace solo attraverso l'intelligenza artificiale. Lo scorso anno, l'azienda ha monitorato 30 miliardi di email di phishing, come ha osservato Vasu Jakkal, vicepresidente della sicurezza dell'azienda. "Nessun essere umano può tenere il passo con quel volume, " ha dichiarato Jakkal. Per affrontare questa sfida, Microsoft sta introducendo 11 "agenti" di cybersicurezza dotati di intelligenza artificiale, progettati per identificare e filtrare email sospette, prevenire tentativi di hacking e raccogliere informazioni sulle potenziali origini degli attacchi informatici. Con circa il 70% dei computer nel mondo che operano su Windows e molte aziende che dipendono dai suoi servizi cloud, Microsoft è spesso stato il principale obiettivo per gli hacker. Diversi da un assistente AI convenzionale, che potrebbe rispondere a domande o pianificare appuntamenti, questi agenti AI sono programmi informatici che interagiscono con il loro ambiente in modo indipendente per completare compiti senza l'intervento dell'utente. Negli ultimi anni, c'è stata una crescita dei mercati del dark web che forniscono malware già pronti per attacchi di phishing e persino consentono all'AI di generare nuovo malware e automatizzare gli attacchi. Questo ha portato a quella che la signora Jakkal definisce un'economia "da 9, 2 trilioni di dollari" per i cybercriminali, che hanno visto un incremento cinque volte maggiore nei gruppi di hacking organizzati, siano essi sponsorizzati dallo stato o meno. "Stiamo affrontando un livello di complessità senza precedenti nel panorama delle minacce, " afferma la signora Jakkal. Gli agenti AI, alcuni sviluppati da Microsoft e altri da collaboratori esterni, verranno integrati nel toolkit di AI di Microsoft chiamato Copilot, servendo principalmente i team IT e di cybersicurezza dei clienti piuttosto che singoli utenti di Windows. Poiché l'AI è abile nel riconoscere schemi e nel screening rapido delle caselle di posta per email sospette, aziende specializzate in cybersicurezza, insieme a Microsoft, hanno iniziato a implementare modelli di AI "agente" per proteggere gli utenti di internet sempre più a rischio. Tuttavia, il dispiegamento di agenti AI autonomi solleva preoccupazioni tra alcuni professionisti del settore.

In un'intervista recente con Sky News, Meredith Whittaker, CEO del servizio di messaggistica Signal, ha espresso apprensione, affermando: "Indipendentemente da come lo chiamiate, agente o bot, può solo comprendere i dati a cui ha accesso, creando un desiderio per le vostre informazioni private e aprendo la porta a potenziali invasioni della privacy. " Microsoft sostiene che l'introduzione di molteplici agenti di cybersicurezza garantisce ruoli chiaramente definiti per ciascuna AI, limitando l'accesso ai dati pertinenti esclusivamente ai loro compiti specifici. L'azienda impiega un "framework di fiducia zero" per i suoi strumenti di AI, che prevede valutazioni continue per garantire che gli agenti rispettino le linee guida programmatiche. Il lancio di un nuovo software di cybersicurezza basato su AI da parte di un attore dominante come Microsoft attirerà sicuramente notevole attenzione. A luglio dello scorso anno, un piccolo errore di codice in un software dell'azienda di cybersicurezza CrowdStrike ha causato il crash istantaneo di 8, 5 milioni di computer Windows in tutto il mondo, rendendo gli utenti incapaci di riavviare le loro macchine. Questo incidente, etichettato come il più grande blackout informatico della storia, ha interrotto aeroporti, ospedali, sistemi ferroviari e migliaia di aziende, incluso Sky News, con alcune che hanno impiegato giorni per recuperare.