Entrevista Antes de que la inteligencia artificial (IA) se vuelva ampliamente utilizada en las empresas, los líderes corporativos deben comprometerse con un régimen continuo de pruebas de seguridad adaptado a las particularidades de los modelos de IA. Esta perspectiva proviene de Danny Coleman, CEO de Chatterbox Labs, y Stuart Battersby, CTO, quienes discutieron en profundidad con The Register por qué las empresas han sido hasta ahora lentas en pasar de programas piloto de IA a una implementación completa en producción. "La adopción empresarial es solo alrededor del 10 por ciento en la actualidad, " dijo Coleman. "McKinsey estima que es un mercado de cuatro trillones de dólares. ¿Cómo avanzará uno si sigue lanzando soluciones que las personas no saben si son seguras de usar, o si no son conscientes no solo del impacto en la empresa, sino también del impacto social?" Agregó: "Las personas dentro de las empresas no están completamente preparadas para esta tecnología sin una gobernanza y seguridad adecuadas. " En enero, la firma de consultoría McKinsey publicó un informe que examina el potencial no explotado de la inteligencia artificial (IA) en el lugar de trabajo. El informe, titulado "Superagencia en el lugar de trabajo: Capacitando a las personas para desbloquear el potencial completo de la IA, " destacó el interés creciente y la inversión en tecnologías de IA, pero señaló que el ritmo de adopción sigue siendo lento. ". . . lo que hay que hacer es no confiar en la fraseología de ningún proveedor de modelos ni de los guardianes, porque todos te dirán que es súper seguro y protegido. " "Los líderes quieren aumentar las inversiones en IA y acelerar el desarrollo, pero luchan por cómo garantizar que la IA sea segura en el lugar de trabajo, " indica el informe de McKinsey. Coleman sostiene que la seguridad cibernética tradicional y la seguridad en IA son campos que se empalman, pero la mayoría de los equipos de seguridad de la información todavía no han actualizado sus conocimientos y a menudo carecen de la experiencia necesaria para entender las superficies de ataque únicas de la IA. Citó como ejemplos la adquisición de Robust Intelligence por parte de Cisco y la compra de Protect AI por Palo Alto Networks. Battersby enfatizó que las organizaciones que buscan desplegar IA a gran escala deben implementar un régimen de pruebas continuas basadas en lo que el servicio de IA realmente realiza. "El primer paso es definir qué significa seguro y confiable para tu caso de uso específico, " explicó.

"Luego tienes que evitar confiar únicamente en las afirmaciones del proveedor del modelo o del vendedor de las medidas de seguridad, ya que todos afirman que sus soluciones son extremadamente seguras. " Esta precaución es vital, destacó Battersby, porque incluso los usuarios autorizados de un sistema de IA pueden hacer que éste se comporte de manera perjudicial. "Lo que queremos comunicar es que los filtros de seguridad de contenido y las medidas de protección por sí solas no son suficientes, " dijo Coleman. "Esto no cambiará en breve. La solución debe ser mucho más en capas. " Aunque este enfoque pueda implicar costos, Battersby argumenta que las pruebas continuas pueden reducir gastos, por ejemplo, demostrando que modelos más pequeños y menos costosos siguen siendo seguros para ciertos casos de uso. La entrevista completa continúa a continuación…