Kevin Mandia, stofnandi vel þekkta tölvunetöryggifyrirtækisins Mandiant, hefur gefið út alvarlegt ávarp um framtíð tölvuöryggisógnanna. Hann spáir því að tölvuglerarnar, knúnar gervigreind, geti orðið raunverulegur möguleiki innan næsta árs. Mandia útskýrir að slíkar árásir myndu setja tölvuöryggissérfræðinga fyrir miklum áskorunum þar sem árásarmenn gætu notað gervigreindartól til að framkvæma flóknar brotastarfsemi með litlum líkum á uppgötvun eða upptöku. Hugmyndin um tölvuógnir sem beitt er gervigreind er staðreynd sem hefur vakið áhyggjur öryggiscommunity í mörg ár, en hraði þróunar og víðtæk innleiðing generatív-tækni í gervigreind hefur hins vegar ýtt undir þessar áhyggjur. Generatív gervigreindarkerfi geta skapað frumlegt efni, eins og texta, myndir og flókin handrit, sem hægt er að nýta til að skapa sveigjanlegri og aðlögunarhæfari tölvuárásir. Mandia leggur áherslu á að líklegasti uppruni þessara tölvuárása sem byggjast á gervigreind séu glæpsamlegar samtök frekar en þjóðríki. Þetta skiptir máli því glæpasamtök, oft rekin á fjárhagslegum grunni, eru fljót að taka upp ný tól og tækni til ólöglegra þátta þar sem þjóðríki eru frekar með strategíska eða pólitísk markmið í huga. interesting, Mandia bendir á að virtir gervigreindalíkan frá fyrirtækjum eins og OpenAI og Anthropic séu ólíkleg til að verða misnotuð beint í illkvittnar skynsemi vegna innbyggðra öryggisreglna og takmarkana sem ætlað eru að koma í veg fyrir misnotkun. Þó er tölvuöryggissviðið áfram viðkvæmt því minni reglugerð og opinberar aðferðir eru til staðar í lausum gervigreindarverkfærum sem ólöglegir aðilar gætu nýtt sér. Til stuðnings þessari sýn samþykkir Chester Wisniewski, virtur sérfræðingur í tölvuöryggi hjá Sophos, að jafnvel þó árásarmenn hafi nú þegar tækni til að nota gervigreind í árásum, sé hvatað til þess enn takmarkað.

Þetta gæti stafað af erfiðleikum við að samþætta gervigreind inn í núverandi árásaraðferðir og takmarkaðri sérþekkingu glæpamanna á nýjustu tækni. Til að sýna hvernig tölvubrotafræði þróast með tækni vitnar Mandia í stórt dæmi frá árinu 2001 þar sem rússneskir tölvuárásarmenn lögðu grunn að sjálfvirkum spillingarferlum á netinu, sem jók verulega umfang og skilvirkni ólöglegra starfa þeirra. Dæmið sýnir hvernig tölvuógnir sögulega hafa tekið upp nýjar tækni til að styrkja starfsemi sína og gefur til kynna að gervigreind gæti farið sama veg. Þrátt fyrir þessa nýju ógn getur tölvuöryggisaðgerðarfólk verið bjartsýnt á möguleika gervigreindar til að styrkja varnaraðgerðir. Sömu tæki og gætu verið notuð sem vopn eru einnig nýtt til að bæta greiningu á ógnum, sjálfvirkni í viðbrögðum og efla viðnám netkerfa. Geta gervigreindar til að greina stórar gagnasöfn hratt og finna aðskilnað munu verða mikilvægt til að hjálpa til við að mæta og lágmarka áhrif árása. Í lokin stendur tölvuöryggissviðið frammi fyrir mikilvægt mótvægisstaði þar sem gervigreind þjónar bæði sem alvarleg ógn og öflugur liðsauki. Ávarp frá leiðtogum eins og Kevin Mandia er hvatt til ákvarðana og Parísar til að fjárfesta í öryggislíkönum sem byggja á gervigreind, en líka að vera vakandi fyrir vaxandi og vandasömum tölvuögn. Sem gervigreind þróast áfram verða einnig aðferðir til að koma í veg fyrir misnotkun hennar, til að tryggja öryggara stafrænt umhverfi fyrir alla.