Kevin Mandia, grunnlegger av det velkjente cybersikkerhetsselskapet Mandiant, har utstedt en alvorlig advarsel om fremtiden for cybertrusler. Han forutsier at AI-drevne cyberangrep kan bli en reell mulighet innen det neste året. Mandia forklarer at slike angrep vil utgjøre store utfordringer for cybersikkerhetseksperter fordi angripere kan bruke AI-verktøy til å utføre sofistikerte brudd med liten sjanse for oppdagelse eller etterforskning. Ideen om AI-aktiverte cybertrusler har bekymret sikkerhetsmiljøet i årevis, men den raske fremgangen og den brede bruken av generative AI-teknologier har kraftig forsterket disse bekymringene. Generative AI-systemer kan lage originalt innhold, som tekst, bilder og komplekse skript, som kan utnyttes til å muliggjøre mer fleksible og adaptive cyberangrep. Mandia understreker at den mest sannsynlige kilden til disse AI-drevne cyberangrepene er kriminelle organisasjoner heller enn stater. Denne forskjellen er viktig siden kriminelle grupper, ofte motivert av økonomisk gevinst, har en tendens til raskt å ta i bruk nye teknologier til ulovlige formål, mens stater vanligvis har strategiske eller politiske mål. Interestingly, Mandia påpeker at fremtredende AI-modeller fra selskaper som OpenAI og Anthropic sannsynligvis ikke vil bli direkte misbrukt til ondsinnede formål på grunn av innebygde sikkerhetstiltak og restriksjoner som er utviklet for å forhindre misbruk. Likevel forblir cybersikkerhetslandskapet risikofylt, fordi det finnes mindre regulerte eller open source AI-verktøy som trusselaktører kan utnytte. Støttet av dette synet er Chester Wisniewski, en anerkjent cybersikkerhetsekspert fra Sophos, enig i at selv om angripere allerede kan ha de tekniske midlene til å bruke AI i angrep, er insentivet for å gjøre det fortsatt begrenset for nå.

Denne motviljen kan skyldes utfordringer med å integrere AI i eksisterende angrepsmetoder og den begrensede kompetansen blant kriminalitet utøvere i å utnytte slik avansert teknologi. For å illustrere hvordan cyberkriminalitet utvikler seg med teknologien, refererer Mandia til en banebrytende sak fra 2001 med russiske hackere som automatiserte nettbaserte svindelmetoder, noe som i stor grad økte omfanget og effektiviteten av deres ulovlige aktiviteter. Dette eksemplet viser hvordan cyberkriminelle historisk har tilpasset seg ny teknologi for å styrke sine operasjoner, og antyder at AI kan følge en lignende vei. Til tross for disse nye truslene uttrykker cybersikkerhetsprofesjonelle en forsiktig optimisme angående AI’s potensial til å forbedre forsvarstiltakene. De samme AI-teknologiene som kan bli brukt som våpen, brukes også til å forbedre trusseloppdagelse, automatisere responser og styrke motstandskraften i nettverksinfrastrukturer. AI sin evne til raskt å analysere store datamengder og oppdage avvik gir lovende muligheter for å forutse angrep og redusere deres virkninger. Avslutningsvis står cybersecurity-feltet ved en kritisk korsvei der AI både fungerer som en alvorlig trussel og et kraftfullt verktøy. Advarsler fra ledende personer som Kevin Mandia fungerer som akutte oppfordringer til organisasjoner og myndigheter om å investere proaktivt i AI-drevne sikkeringsløsninger, samtidig som de må være på vakt for stadig mer sofistikerte cybertrusler. Etter hvert som AI fortsetter å utvikle seg, må også strategiene for å forhindre misbruk av den styrkes, for å sikre en tryggere digital verden for alle involverte.