Entrevista Abans que la intel·ligència artificial esdevingui generalitzada en les empreses, els líders corporatius han de comprometre’s a un règim de proves de seguretat contínu en funció de les particularitats dels models d’IA. Aquesta perspectiva prové del CEO de Chatterbox Labs, Danny Coleman, i de l’CTO, Stuart Battersby, que van discutir àmpliament amb The Register perquè fins ara les empreses han estat lentes a fer la transició dels programes pilots d’IA cap a un desplegament complet en producció. “La adopció en les empreses és només d’aproximadament un 10% avui dia, ” va dir Coleman. “McKinsey estima que és un mercat de quatre milions de milions de dòlars. Com avançaràs si segueixes llançant solucions que la gent no sap si són segures d’utilitzar, o si no són conscients no només de l’impacte en l’empresa, sinó també de l’impacte social?” Va afegir: “Les persones dins les empreses encara no estan prou preparades per a aquesta tecnologia sense una governança i una seguretat adequades. ” El gener, l’empresa de consultoria McKinsey va publicar un informe que analitza el potencial no explotat de la intel·ligència artificial (IA) al lloc de treball. L’informe, titulat “Superagency en el lloc de treball: capacitar la gent per desbloquejar tot el potencial de l’IA, ” destacava l'increment d’interès i inversions en tecnologies d’IA, però assenyalava que el ritme d’adopció encara és lent. “. . . el que cal fer és no fiar-se de la retòrica ja sigui del proveïdor de models o del proveïdor de baranes de seguretat, perquè tothom et dirà que són extremadament segurs i segures. ” “Els líders volen potenciar les inversions en IA i accelerar-ne el desenvolupament, però tenen dificultats per garantir que l’IA sigui segura al lloc de treball, ” afirma l’informe de McKinsey. Coleman argumenta que la ciberseguretat tradicional i la seguretat de la IA són camps que s’intersequen, però la majoria dels equips de seguretat de la informació encara no s’han posat al dia i sovint manca l’experiència necessària per entendre les superfícies d’atac úniques de la IA. Com a exemples, va citar la compravenda de Robust Intelligence per part de Cisco i la compra de Protect AI per part de Palo Alto Networks com a estratègies encertades que estan adoptant diverses empreses. Battersby va posar de manifest que les organitzacions que volen desplegar IA a gran escala han d’implementar un règim de proves continuades fonamentat en el que realment fa el servei d’IA. “El primer pas és definir què significa segur i protegit per al vostre cas d’ús específic, ” va explicar.

“Després, cal evitar confiar exclusivament en les afirmacions del proveïdor del model o del proveïdor de baranes de seguretat, ja que tothom afirma que les seves solucions són extremadament segures. ” Aquestes precaucions són crucials, va subratllar Battersby, perquè fins i tot els usuaris autoritzats d’un sistema d’IA poden fer-lo comportar-se de manera perjudicial. “Volem transmetre que els filtres de seguretat de contingut i les baranes de seguretat per si soles no són suficients, ” va dir Coleman. “Aquest tema no canviarà aviat. La solució ha de ser molt més complexa. ” Tot i que aquest enfocament pot comportar costos, Battersby argumenta que les proves contínues poden reduir despeses, per exemple, demostrant que models més petits i menys costosos encara són segurs per a determinats casos d’ús. L’entrevista completa continua a continuació…