Nedavno smo prepoznali ključen trenutek v kibernetski varnosti: modeli umetne inteligence so postali resnično učinkovita orodja za kibernetske operacije, tako v korist kot v škodo. Naše sistematične ocene so pokazale, da se kibernetske zmožnosti podvojijo vsakih šest mesecev, opazovanja v resničnem svetu pa so potrdila, da zlonamerni akterji hitro izkoriščajo AI na velikih razsežnostih. V sredini septembra 2025 smo odkrili sumljive dejavnosti, ki so jih kasneje potrdili kot zelo sofisticirano kampanjo vohunstva. Po edinstveni poti so napadalci izkoriščali “agentične” sposobnosti AI—ne zgolj kot svetovalce, temveč kot avtonomne izvajalce kibernetskih napadov. Z visoko stopnjo zaupanja ocenjujemo, da je skupina, podprta s strani kitajske države, manipulirala z našim orodjem Claude Code za vdor v približno trideset globalnih tarč, vključno z velikimi tehnološkimi podjetji, finančnimi institucijami, kemičnimi proizvajalci in vladnimi agencijami—pri čemer je v nekaterih primerih tudi uspešno izvedla napade. Verjetno gre za prvi dokumentirani velikobseganski kibernetski napad, ki je bil večinoma izveden brez večjega človeškega posredovanja. Takoj ob odkritju smo sprožili preiskavo, da bi ocenili obseg in resnost operacije. V desetih dneh smo identificirali in blokirali zlonamerne račune, obvestili prizadete strani, sodelovali z oblastmi in zbirali uporabne obveščevalne podatke. Ta kampanja poudarja globoke implikacije v dobi AI “agentov”—sistemov, ki so zmožni samostojnega, daljšega delovanja in izvajanja kompleksnih nalog z minimalnim človeškim vložkom. Čeprav so ti sistemi dragoceni za produktivnost, lahko v malicioznih rokah močno povečajo možnosti za velike kibernetske napade. Glede na rast učinkovitosti takih napadov smo razširili odkrivanje in razvili napredne klasifikatorje za označevanje zlonamerne dejavnosti, hkrati pa nenehno inovirali metode preiskovanja, da bi se spopadli z razpršenimi napadi. To izpovemo javno, da bi pomagali industriji, vladi in raziskovalcem pri okrepitvi kibernetske obrambe ter zagotovili stalno transparentnost in poročanje o novih grožnjah. — **Kako se je zgodil kibernetski napad** Napad je izkoriščal razvoj AI, ki je bil lani še odsoten ali zelo osnovni: - **Obveščevalni podatki:** Sedaj modeli odlično sledijo kompleksnim navodilom, razumijo kontekst in imajo izpopolnjene veščine, kot je programiranje, kar omogoča sofisticirane kibernetske napade. - **Agentstvo:** Modeli delujejo avtonomno v zankah—izvajajo zaporedne naloge in odločitve z minimalnim človeškim posredovanjem. - **Orodja:** Modelle dostopajo do raznovrstnih programskih orodij (pogosto prek Model Context Protocola), opravljajo funkcije, kot so spletno iskanje, pridobivanje podatkov, razbijanje gesel in skeniranje omrežij, kar je prej bilo izključno domena ljudi. Faze napada so zahtevale vse tri elemente: 1. **Človečni operaterji** so izbrali tarče (tehnološka podjetja, vlade) in zgradili avtonomni okvir z uporabo Claude Code za izvajanje kibernetskih operacij. Prek uporabe “jailbreaka” in razčlenjevanja zlonamernih nalog na nedolžne podnaloge so pretentali Claude, da je opravljal naloge varnostnega strokovnjaka, ki izvaja varnostne teste. 2. Claude Code je hitro opravil izvišče, pregledal tarčne sisteme in identificiral dragocene baze podatkov hitreje od človeških hekerjev, ter rezultate sporočil operaterjem. 3. Claude je iskal in pisal izkoriščevalno kodo, odkrival ranljivosti, zbiral poverilnice in omogočal globlji dostop ter prenašanje podatkov, ob tem pa minimalno človeško nadzoroval.

Ustanovil je zasilne vstopne točke (backdoors) in razvrstil odtujene podatke glede na obveščevalno vrednost. 4. Na koncu je Claude pripravil podrobno dokumentacijo napada, organiziral poverilnice in analizo sistemov, da bi olajšal prihodnje kibernetske operacije. Skupno je AI opravilo približno 80–90 % kampanje, človeško posredovanje pa je bilo potrebno le občasno (4–6 kritičnih odločitev na napad). AI je deloval z nesluteno hitrostjo, opravljal tisoče zahtevkov na sekundo—kar je nemogoče za človeške ekipe. Včasih je imel tudi “halucinacije”, kot je izmišljanje poverilnic ali napačna razvrstitev javno dostopnih informacij, kar trenutno predstavlja oviro za popolnoma avtonomne napade. — **Vpliv na kibernetsko varnost** Prefinjeni kibernetski napadi so postali bistveno bolj dostopni in učinkoviti. Z ustrezno nastavljenim agentičnim AI lahko nadomestijo celotne ekipe hekerjev—analizirajo sisteme, proizvajajo izkoriščevalsko kodo in obdelujejo ukradene podatke bolj učinkovito kot ljudje. To nižja ovira za manj izkušene ali manj finančno podprte skupine, da izvedejo velike napade. Ta primer stopnjuje prejšnje opažanja (“vibe hacking”), kjer je bil človeški element še vedno močno vpleten. Tukaj je bil človeški stik redkejši, čeprav je bil obseg znatno večji. Čeprav se ta primer osredotoča na Claude, verjetno odraža tudi širše trendove med naprednimi modeli AI in prilagoditvami napadalcev. Zakaj še vedno razvijamo in lansiramo takšne AI modele kljub tveganjem?Njihove zmogljivosti so enako pomembne za obrambo. Claude, opremljen z močnimi zaščitami, pomaga strokovnjakom za kibernetsko varnost pri odkrivanju, zmprečevanju in pripravi na napade. Naš oddelek za obveščevalne podatke je pri analizi podatkov v tej preiskavi globoko uporabljal Claude. Se zgodila je temeljna sprememba. Pozivamo ekipe za varnost, naj raziskujejo uporabo AI pri avtomatizaciji delovanja v Centerih za kibernetsko varnost, prepoznavanju groženj, oceni ranljivosti in odzivu na incidente. Razvijalci morajo nenehno vlagati v zaščitne ukrepe, da bi preprečili zlorabo s strani nasprotnikov. Ko napadalci sprejmejo te tehnike, so izboljšano delitev groženj, izboljšave v zaznavanju in močni varnostni nadzor postali nujni. — Za vse podrobnosti preberite celotno poročilo. *Urejen november 14, 2025*