Podle společnosti Microsoft došlo k výraznému vzrůstu pokusů o hacking od zločinců, podvodníků a zpravodajských agentur, které dosáhly úrovně "bezprecedentní komplexity", kterou lze účinně řešit pouze prostřednictvím umělé inteligence. Minulý rok společnost sledovala 30 miliard phishingových e-mailů, jak uvedla Vasu Jakkal, viceprezidentka firmy pro bezpečnost. "Žádný člověk nemůže držet krok s tímto objemem, " poznamenala Jakkalová. Aby se vypořádala s touto výzvou, Microsoft zavádí 11 "agentů" kybernetické bezpečnosti poháněných umělou inteligencí, určených k identifikaci a filtrování podezřelých e-mailů, prevenci pokusů o hacking a shromažďování informací o možných zdrojích kybernetických útoků. S přibližně 70% počítačů na světě fungujících na systému Windows a mnoha podniky závislými na jeho cloudových službách, se Microsoft často stal hlavním cílem hackerů. Na rozdíl od tradičního asistenta AI, který by mohl odpovídat na dotazy nebo plánovat schůzky, tito AI agenti jsou počítačové programy, které nezávisle komunikují s okolím a plní úkoly bez zásahu uživatele. V posledních letech došlo k nárůstu tržišť na temném webu, která poskytují hotové malware pro phishingové útoky a dokonce umožňují AI generovat nový malware a automatizovat útoky. To vedlo k tomu, co paní Jakkalová označuje jako "$9, 2 trilionovou gig ekonomiku" pro kyberzločince, kteří zaznamenali pětinásobný nárůst organizovaných hackerských skupin, ať už s podporou státu nebo jinak. "Potýkáme se s bezprecedentní úrovní komplexity v hrozbách, " říká paní Jakkalová. AI agenti, někteří vyvinutí společností Microsoft a jiní externími spolupracovníky, budou integrováni do Microsoftova nástroje AI nazvaného Copilot, přičemž primárně slouží týmům IT a kybernetické bezpečnosti klientů, nikoli jednotlivým uživatelům Windows. Protože je AI schopna rozpoznávat vzory a rychle skenovat schránky na podezřelé e-maily, začaly specializované firmy na kybernetickou bezpečnost spolu se společností Microsoft nasazovat "agentické" modely AI k ochraně stále ohroženějších uživatelů internetu. Nasazení autonomních AI agentů však vyvolává obavy u některých odborníků v oboru.

V nedávném rozhovoru se Sky News, Meredith Whittaker, generální ředitelka služby pro zasílání zpráv Signal, vyjádřila znepokojení a uvedla: "Bez ohledu na to, zda to nazýváte agentem nebo botem, může porozumět pouze datům, ke kterým má přístup, což vytváří tlak na vaše soukromé informace a otevírá dveře potenciálním invazím do soukromí. " Microsoft tvrdí, že zavedením více agentů kybernetické bezpečnosti zajišťuje přesně definované úkoly pro každou AI, čímž omezují přístup k datům příslušným pouze k jejich konkrétním úkolům. Společnost používá "zero trust framework" pro své AI nástroje, což vyžaduje průběžné hodnocení, aby bylo zajištěno, že agenti dodržují své programové pokyny. Zahájení nového softwaru kybernetické bezpečnosti poháněného AI od dominantního hráče, jako je Microsoft, se očekává, že přitáhne značnou pozornost. V červenci minulého roku způsobil malý kódovací chyba v softwaru kybernetické bezpečnosti firmy CrowdStrike okamžité selhání 8, 5 milionu počítačů se systémem Windows po celém světě, přičemž uživatelé nebyli schopni restartovat svá zařízení. Tento incident, označovaný jako největší výpadek výpočetní techniky v historii, narušil letiště, nemocnice, železniční systémy a tisíce podniků, včetně Sky News, přičemž některým trvalo dny, než se vzpamatovaly.