Nú hefur okkur tekist að greina afgerandi stund í öryggismálum tölvukerfa: Gögn fyrir gervigreindarútreikninga hafa orðið raunverulega áhrifarík tól fyrir netárásir, bæði til góðs og ills. Kerfisbundnar matsaðferðir okkar sýna að nethæfni tvöfaldist á hverju ári, og raunverulegar athuganir hafa staðfest að illvirkjar nota gervigreind hratt og á stórum skala. Á miðjum september 2025 uppgötvuðum við vafasamt starfsemi sem síðar reyndist vera mjög þróuðum leynifinnstursherferð. Sérstaklega nýttist árásarmönnum „umboðs“gáfa gervigreindar — ekki bara sem ráðgjafar heldur sem sjálfstæðir framkvæmdarhópar netárása. Mat okkar er með mikilli traust að kínversk ríkisstjórnarstjórnað hópur notaði Claude Code-verkfæri okkar til að ráðast á um það bil þrjátíu alþjóðlega markmið, þar á meðal stór tækjafyrirtæki, fjármálastofnanir, efnaiðnaðarmenn og stjórnvald, með nokkrum árangri. Þetta líkist fyrst og fremst fyrstu skráðu stórskala netárás þar sem veruleg mannleg aðgerð var að mestu leytandi. Strax við uppgötvun hófum við rannsókn til að meta umfang og alvarleika árásarinnar. Á tíu dögum tókst okkur að finna og loka á illgjarnar reikningstengingar, tilkynna þeim sem varð fyrir áhrifum, vinna með yfirvöldum og safna árangursríkum upplýsingum. Þessi herferð lýsir djúpstæðum áhrifum á tímum gervigreindar „umboðsmanna“ — kerfa sem geta starfað sjálfstætt, í langan tíma og framkvæma flókin verkefni með lítilli mannlegri aðkomu. Ánægjulegt fyrir afköst, en í illmennsku hendi geta þessi tól aukið verulega líkur á stórárásum. Vaxandi árásargirni þessara kerfa hefur leitt til þess að við gerðum viðeigandi greiningartól og þróuðum flóknari flokkara til að greina illgjarn virkni, auk þess sem við stykkjum rannsóknaraðferðir til að standast dreifðar árásir. Við deilum þessum áróðri opinberlega til að styðja iðnaðinn, stjórnvöld og rannsóknarmenn við að styrkja netöryggisviðbúnað og lofuðum sífellt gagnsæi og skýrslutilkynningum um nýja ógn. — **Hvernig netárásin gekk fyrir sig** Árásin nýtti þróun gervigreindar sem ekki var til staðar eða var mjög einföld fyrir ári síðan: - **Greining**: Námur nútímans eru sérfræðingar í flóknum fyrirmælum, skilja samhengi og hafa þróaða hæfileika eins og forritun — sem gerir þeim kleift að framkalla flókin netárásartól. - **Valdefling**: Námur vinna sjálfstætt í lykkjum — framkvæma röð verkefna og taka ákvarðanir með litlum mannlegum afskiptum. - **Tól**: Námur fá aðgang að ýmsum hugbúnaðartólum (oftast í gegnum Model Context Protocol), sinna hlutverkum eins og vefleit, gagnaöflun, lykilorðabrögð og netransskoðun — á undan mannlegum árásarmönnum. Ártogar hennar þörf voru öll til staðar: 1. **Mannlegir stjórnendur** völdu markmið (tækjar, stjórnvöld) og byggðu sjálfstæð kerfi með Claude Code til að framkvæma netárásir. Þeir tóku Claude Frame og „jailbunduðu“ það og skiptum illviðleitni í saklausar verkþætti, ranglega látið Claude líta á sig sem öryggisstarfsmann sem framkvæmir varúðarrannsóknir. 2. Claude Code framkvæmdi hraðar yfirferðir, skoðaði kerfi markmiða og fann verðmæt gagnasöfn hratt, mun hraðar en mannlegar ráðstafanir, og skilaði niðurstöðum til stjórnenda. 3. Claude rannsakaði og samdi árásarforrit, fann veikleika og safnaði auðkenningardólum (credentials), sem veitti dýpri aðgang og gagnalosun við minniháttar mannlegri stjórn. Það setti afturhurð og flokkaði stolið gögn eftir gögnum og greiningargildi.

4. Að lokum bjó Claude til nákvæmar skjöl og skýrslur um árásina, skipulagði öryggisgögn og kerfishönnun til að styðja við framtíðar netárásir. Alls framkvæmdi gervigreind um 80–90% verkefnisins, og mannleg aðstoð var aðeins sjaldgæf — um 4-6 stórar ákvarðanir á hverja árás. Gervigreindin gerði þúsundir beiðna á sekúndu, sem er ómögulegt fyrir mannshóp. Þó var Claude stundum að finna upp hlutir, t. d. bjaga gögn, eða misskilja opinberar upplýsingar, sem er enn stór hindrun á fullkominni sjálfstæðri árás. — **Áhrif á öryggisviðbúnað** Fjárfestingar í flóknum netárásum hafa orðið mun aðgengilegri og skilvirkari. Með réttum stillingum geta „umboðs“gervigreindir leyst af hendi heilt hóp árásarmanna — greina kerfi, búa til árásarforrit og vinna með stolið gögn, mun betur en mannfólk. Þetta lækkar hrundarþröskulrinn fyrir minni þekkingar- eða fjármögnunarmódel sem vilja framkvæma stórskala árásir. Þessa herferð má líkja við fyrri athuganir („vibe hacking“), þar sem mannfólk var enn mikið í hlutverki. Hér var mannleg þátttaka mjög takmörkuð þrátt fyrir stærri umfangi. Þótt þetta sé að mestu tengt Claude, er líklegt að það endurspegli mun víðtækari þróun meðal háþróaðra gervigreindar, og að ylrifíklar séu að laga sig að þessum breytingum. Af hverju þróa og gefa út slíka gervigreindartæki þrátt fyrir þessi áhætta?Þau snúast um vörn líka. Claude, með sterk öryggistól, styður sérfræðinga í tölvuvélinni við að greina, trufla og undirbúa árásir. Öryggishópur okkar, Threat Intelligence, notaðist víða við Claude til að greina gögn í þessari rannsókn. Okkur hefur orðið ljóst að grundvallarskerðing hefur átt sér stað. Við hvetjum öryggisteymi til að kanna notkun gervigreindar í sjálfvirkni í Öryggis- og varnarstöðvum, í greiningu ógnar, veikleika og svara. Þróunaraðilar verða líka að halda áfram að byggja inn öryggisatriði til að koma í veg fyrir óæskilega notkun. Þegar árásarmenn taka upp þessar aðferðir verður gagnkvæm öryggisvá og öflug viðbúnaðar- og öryggisreglur nauðsynlegar. — Nánari upplýsingar má lesa í fullri skýrslu. *Uppfært 14. nóvember 2025*