Kevin Mandia, fundador de la coneguda empresa de ciberseguretat Mandiant, ha emès una advertència greu sobre el futur de les amenaces cibernètiques. Preveu que els ciberataques impulsats per IA podrien convertir-se en una possibilitat real durant l'any vinent. Mandia explica que aquests atacs suposarien grans reptes per als experts en ciberseguretat perquè els atacants podrien utilitzar eines d'IA per dur a terme violacions sofisticades amb poques possibilitats de detecció o de ser rastrejats. La idea de les amenaces cibernètiques habilitades per IA ha preocupat la comunitat de la seguretat durant anys, però el progrés ràpid i l'alta adopció de tecnologies d'IA generativa han intensificat enormement aquestes preocupacions. Els sistemes d'IA generativa poden crear contingut original, com textos, imatges i guions complexos, que poden ser explotats per permetre ciberatacs més flexibles i adaptables. Mandia subratlla que la font més probable d'aquests ciberatacs impulsats per IA són organitzacions criminals en comptes de estats-nació. Aquesta distinció és important ja que els grups criminals, sovint motivats per guanys financers, tendeixen a adoptar ràpidament noves tecnologies per a usos il·lícits, mentre que els estats-nació solen tenir objectius estratègics o polítics. Curiosament, Mandia nota que els models d'IA prominents de companyies com OpenAI i Anthropic probablement no serien malintencionadament malutilitzats directament, gràcies a les mesures de seguretat i restriccions incorporades que pretén prevenir l'abús. No obstant això, el panorama de la ciberseguretat continua sent arriscat perquè existeixen eines d'IA de codi obert o menys regulades, que els actors amenaçadors podrien explotar. Per recolzar aquesta perspectiva, Chester Wisniewski, un expert en ciberseguretat reconegut de Sophos, coincideix que, tot i que els atacants ja podrien tenir els mitjans tècnics per utilitzar IA en els seus atacs, l'incentiu per fer-ho encara és limitat de moment.

Aquesta reticència pot derivar dels desafiaments d'integrar la IA en els mètodes d'atac ja existents i de la manca d'especialització entre els criminals per aprofitar aquesta tecnologia avançada. Per il·lustrar com evoluciona el cibercrim amb la tecnologia, Mandia fa referència a un cas emblemàtic del 2001 en què hackers russos van automatitzar estafes en línia, incrementant significativa la difusió i l'eficiència de les seves activitats il·legals. Aquest exemple destaca com els cibercriminals històricament s'han adaptat a les tecnologies emergents per potenciar les seves operacions i suggereix que l'IA podria seguir un camí similar. Malgrat aquestes amenaces emergents, els professionals de la ciberseguretat expressen un optimisme cautelós quant al potencial de l'IA per millorar les mesures de defensa. Les mateixes tecnologies d'IA que podrien ser utilitzades com a armes també s'estan emprant per millorar la detecció de amenaces, automatitzar respostes i enfortir la resiliència de les infraestructures de xarxes. La capacitat de l'IA d'analitzar grans volums de dades ràpidament i detectar anomalies ofereix formes prometedores d'anticipar atacs i reduir-ne l'impacte. En conclusió, el món de la ciberseguretat afronta un moment crític en què l'IA funciona tant com una amenaça seriosa com un actiu potent. Les advertències de líders com Kevin Mandia serveixen com a crides d'alerta urgents perquè les organitzacions i els governs inversin proactivament en solucions de seguretat impulsades per IA mentre es mantenen alerta davant d'amenaçes cibernètiques cada vegada més sofisticades. A mesura que l'IA avança, també han d'augmentar les estratègies per prevenir-ne l'ús indegut, garantint un entorn digital més segur per a tothom.