Kevin Mandia, grundlægger af det velkendte cybersikkerhedsfirma Mandiant, har udsendt en alvorlig advarsel om cybertruslernes fremtid. Han forudser, at AI-drevne cyberangreb kan blive en reel mulighed inden for det næste år. Mandia forklarer, at sådanne angreb vil udgøre store udfordringer for cybersikkerhedseksperter, fordi angribere kan bruge AI-værktøjer til at gennemføre sofistikerede brud med minimalt risiko for opdagelse eller sporbarhed. Ideen om AI-aktiverede cybertrusler har bekymret sikkerhedsbranchen i årevis, men den hurtige udvikling og brede anvendelse af generative AI-teknologier har kraftigt øget disse bekymringer. Generative AI-systemer kan skabe originalt indhold, såsom tekst, billeder og komplekse scripts, hvilket kan udnyttes til at muliggøre mere fleksible og tilpassede cyberangreb. Mandia understreger, at den mest sandsynlige kilde til disse AI-drevne cyberangreb er kriminelle organisationer snarere end stater. Denne skelnen er vigtig, da kriminelle grupper, ofte motiveret af økonomisk gevinst, hurtigt tager nye teknologier i brug til ulovlige formål, mens stater typisk har strategiske eller politiske mål. Interessant nok bemærker Mandia, at fremtrædende AI-modeller fra virksomheder som OpenAI og Anthropic sandsynligvis ikke vil blive misbrugt direkte til ondsindede formål på grund af indbyggede beskyttelsesforanstaltninger og restriktioner, der er designet til at forhindre misbrug. Ikke desto mindre forbliver cybersikkerhedsscenen risikofyldt, fordi der findes mindre regulerede eller open source AI-værktøjer, som trusselsaktører kan udnytte. Støttende denne opfattelse er Chester Wisniewski, en respekteret cybersikkerhedsekspert fra Sophos, enig i, at selvom angribere allerede måske har de tekniske midler til at bruge AI i angreb, er incitamentet til at gøre det stadig begrænset for nuværende.

Denne tilbageholdenhed kan skyldes vanskelighederne ved at integrere AI i eksisterende angrebsmetoder og den begrænsede ekspertise blandt kriminelle til at udnytte sådan avanceret teknologi. For at illustrere, hvordan cyberkriminalitet udvikler sig med teknologien, henviser Mandia til en banebrydende sag fra 2001, hvor russiske hackere automatiserede online svindelordninger, hvilket betydeligt øgede omfanget og effektiviteten af deres ulovlige aktiviteter. Eksemplet fremhæver, hvordan cyberkriminelle historisk har tilpasset sig ny teknologi for at optimere deres operationer og antyder, at AI kan følge en tilsvarende vej. På trods af disse nye trusler udtrykker cybersikkerhedseksperter en forsigtig optimisme med hensyn til AI’s potentiale til at forbedre forsvarsforanstaltninger. De samme AI-teknologier, der kan blive brugt som våben, anvendes også til at forbedre trusselsdetektion, automatisere svar og styrke netværksinfrastrukturers modstandsdygtighed. AI’s evne til hurtigt at analysere store mængder data og opdage unormale mønstre byder på lovende muligheder for at forudsige angreb og reducere deres virkninger. Afslutningsvis står cybersikkerhedsområdet ved en skillevej, hvor AI både fungerer som en alvorlig trussel og som en kraftfuld ressource. Advarsler fra ledere som Kevin Mandia tjener som presserende opfordringer til organisationer og regeringer om at investere proaktivt i AI-drevne sikkerhedsløsninger, samtidig med at de holder øje med stadigt mere sofistikerede cybertrusler. Efterhånden som AI fortsætter med at udvikle sig, må strategier for at forhindre misbrug også udvikle sig, for at sikre et mere sikkert digitalt landskab for alle involverede.