El darrer informe de Cost de una brecha de dades d’IBM destaca una qüestió crítica en la seguretat de la IA: les organitzacions adopten ràpidament tecnologies d’IA sense implementar mesures de seguretat adequades ni marcs de governança. Moltes empreses integren models i aplicacions d’IA més ràpid del que poden assegurar-los, incrementant els riscos de fugues de dades i vulnerabilitats. Notablement, un 13 % d’aquestes organitzacions van informar de breus relacionades amb sistemes d’IA, evidenciant el paper creixent dels components d’IA com a vectors d’atac amb greus conseqüències operatives, financeres i de reputació. El informe revela que un 97 % d’empreses que han patit breus relacionades amb l’IA no disposaven de controls d’accés adequats per a aquesta, augmentant significativament l’exposició a accès no autoritzats i explotació. A mesura que la IA esdevé central en la transformació digital, són essencials protocols de seguretat robustos i específics per a la IA—que incloguin gestió estricta d’accés, monitorització contínua, detecció de amenaces i valoracions de riscos. Els resultats inciten els CISO, els equips de seguretat i els directius a ajustar les estratègies, invertint en formació per a empleats centrada en el risc de la IA i col·laborant amb experts en IA i ciberseguretat per construir defenses resilients. Els analistes del sector atribueixen aquestes mancances de seguretat a la novetat de la IA, a la complexitat dels sistemes i a la comprensió limitada dels riscos específics de la IA dins dels marcs tradicionals de ciberseguretat, deixant les organitzacions mal preparades per detectar i mitigar atacs relacionats amb la IA. Incorporar la seguretat de la IA per disseny en els cicles de desenvolupament—abordant amenaces com ara l’enverinament de dades, la inversió de models i les entrades adversàries—pot ajudar a mitigar els riscos des de l’inici.

L’informe també fa èmfasi en la conformitat amb l’entrada en vigor de regulacions emergents sobre ètica i seguretat de la IA, advertint que la manca d’alineació amb aquests marcs legals podria comportar sancions acompanyades de breus de seguretat. IBM recomana auditories comprehensives de l’estat de la seguretat de la IA i dels controls d’accés, establir responsabilitats clares i cultivar una cultura de consciència de la seguretat en l’àmbit de la IA. L’informe mostra com la seguretat de la IA va per darrere dels avenços tecnològics, creant vulnerabilitats agreujades. Per això, les organitzacions haurien d’adoptar defenses en múltiples capes, incloent-hi eines de seguretat alimentades per IA per a la detecció d’anomalies en temps real, i fomentar la col·laboració entre els departaments de ciberseguretat, TI, compliment i units de negoci per establir estratègies de defensa unificades que afrontin tant els factors tècnics com els humans. Finalment, l’informe ressalta que l’èxit de les iniciatives d’IA depèn no només de les capacitats tècniques, sinó també de marcs de seguretat sòlids. Ignorar les possibles deficiències en la seguretat de la IA comporta riscos de breus costoses que poden erosionar la confiança, entorpir la innovació i exposar dades sensibles. A mesura que la IA s’implanta en tots els àmbits de negoci, millorar la seguretat i la governança de la IA és més urgent que mai. Les organitzacions han de creuar de manera decidida la línia entre l’adopció de la IA i la seguretat per aprofitar tot el potencial de la IA de manera segura, assegurant un creixement sense posar en perill la seguretat i la integritat.