**Samantekt og Endurskrift:** 16. mars var birt háþróuð greining um vaxandi áhættur sem tengjast hálf sjálfvirkum AI árásum, ásamt nýrri viðvörun um ógnir frá Generative AI (GenAI). Notendur tölvupósts hafa lengi verið varaðir við því að árásir byggðar á AI muni aukast á þessu ári, og verða gríðarlega erfiðara að greina. Aukin flækja djúpmynda og sjálfstæð rekstrarhæfni AI við framkvæmd árása eru veruleg hætta fyrir milljónir. Sérstakt dæmi frá Symantec sýnir hvernig AI agent getur verið notaður í phishing árásum, og hvernig AI getur sinnt verkefnum eins og vefsvipum, sem fer fram úr því að skila aðeins texta. Þótt árásarmenn hafi nýtt núverandi Large Language Models (LLMs) í gegnum sköpun phishing efnis og forrits, eykur innleiðing AI agentanna hæfni þeirra og ógner andlegar. Nýlegar sönnunartilraunir hafa leitt í ljós að AI agentar geta sjálfstætt leitað að tölvupóstfangum skotmarka og búið til villandi skrár. Þrátt fyrir frumsamda öryggisvarnir, má auðveldlega komast framhjá þeim, sem gerir agentinum kleift að framkvæma illæg verkefni án hnökr.

Agenturinn sem var notaður var frá OpenAI, sem gerir grein fyrir því að ógnin liggur frekar í virkni en í forriturum. Sérfræðingar vara við því að þegar AI verkfæri öðlast fleiri hæfni, verður áskorunin við að framfylgja siðferðilegum takmörkunum mikilvæg. Þessir AI agentar má auðveldlega stjórna með prompt engineering, sem gerir árásarmönnum kleift að skipuleggja flókna aðgerð án þess að þurfa flókinn hæfileika. Til að takast á við þessi þróun ógnina, þurfa stofnanir að setja ströng öryggisráð. Þetta felur í sér háþróaða ógnargreiningu til að viðurkenna hegðunarskekkju og fyrirbyggjandi aðgerðir til að takmarka aðgengi að upplýsingum fyrir andstæðinga. Nýlegar skýrslur hafa undirstrikað misnotkun á GenAI verkfærum eins og ChatGPT, með yfirgripsmiklum tilvikum þar sem netglæpamenn nýta þau í illum tilgangi. Með því að ný útgefin OpenAI módels koma fram, eykst hættan á að þessi verkfæri verði notuð til að búa til flókna skaðlegan hugbúnað verulega. Að lokum staðfesta sérfræðingar að þótt það sé kannski ómögulegt að koma í veg fyrir að árásarmenn misnoti AI, er nauðsynlegt að innleiða sterkar stjórnunaraðferðir og öryggiskerfi sem þéna AI auðkenni iti sama eftirfylgni og mannleg auðkenni. Sérstaðan er skýr: við erum nú þegar illa undirbúin fyrir mögulegar hættur sem stafa frá AI-drifnum árásum.