Las empresas y sus proveedores tecnológicos están incorporando rápidamente las capacidades de la Inteligencia Artificial Genética a sus herramientas y plataformas. Sin embargo, es esencial actuar con cautela y evitar precipitarse en el proceso, ya que su adopción puede exponer a las empresas a numerosos riesgos de incumplimiento y a sus propias responsabilidades. Sin embargo, no hay que pasar por alto ciertas señales de alarma: la GenAI tiene el potencial de amplificar los riesgos existentes asociados a las leyes de privacidad de datos que rigen la recopilación, uso, intercambio y almacenamiento de datos sensibles, y puede hacer que las empresas sean vulnerables a futuras acciones legislativas. Europa, por ejemplo, se está poniendo al día con la introducción de la Ley AIA, que ahora aborda la IAogen, aunque se propuso inicialmente antes de la aparición de la IAogen. Además, se han presentado demandas contra varios proveedores de IAgen, como OpenAI, Microsoft, Midjourney, StableDiffusion y otros. Estas acciones legales, interpuestas por diversos titulares de derechos de autor, acusan a las empresas de formar su IAI sobre material protegido por derechos de autor, incluidas imágenes, código y texto. Las audiencias y peticiones del Congreso sobre el desarrollo de la IA, incluida la IAgen, presionan a los reguladores y legisladores para que impongan limitaciones a su uso. Incluso algunas ciudades, como Nueva York, han implantado nuevas normas que regulan el uso de la IA en la toma de decisiones, exigiendo auditorías biológicas y transparencia en las herramientas automatizadas de toma de decisiones. La creciente inquietud en torno a los riesgos de la IAI se debe a la incertidumbre sobre el entorno normativo, según revela una encuesta de KPMG realizada en junio. La encuesta reveló que el 77% de los directores ejecutivos de las grandes empresas considera que la incertidumbre normativa es un obstáculo para la implantación de la IAgen. Algunas empresas, sobre todo las de sectores regulados, están abordando la implantación de la IAgen con cautela y limitando su aplicación a ámbitos con un riesgo mínimo. Por ejemplo, un abogado de Chicago especializado en lesiones personales se planteó la idea de utilizar cartas de demanda generadas por IAgen mediante la carga de historiales médicos y facturas de los clientes. Además, la empresa prohíbe al personal utilizar ChatGPT para escribir cartas a los clientes. Sin embargo, existe un caso de bajo riesgo en el que se permite el uso de IAO, que consiste en utilizar ChatGPT para crear estrategias de marketing en redes sociales y generar ideas de contenido. No obstante, la empresa hace hincapié en la necesidad de orientación legislativa, especialmente en lo que respecta a los registros médicos. Otra estrategia empleada por las organizaciones consiste en utilizar inicialmente la IA en ámbitos de bajo riesgo. Sin embargo, las empresas deben asegurarse de que el acceso a los datos está debidamente controlado para evitar su divulgación o uso no autorizado. La gestión de los datos es un aspecto crucial al que hay que prestar atención cuando se utilizan modelos de lenguaje de gran tamaño( LLM) como GenAI. Las empresas deben ser conscientes de las fuentes de datos, las transformaciones y los resultados que conllevan.

Sin embargo, muchas empresas siguen teniendo problemas para gestionar los datos de forma exhaustiva, especialmente con los LLM. Las empresas de consultoría de datos se encuentran en las fases piloto de evaluación de los LLM y, aunque algunos proveedores han hablado de añadir funciones de gestión a sus plataformas, actualmente no están disponibles todas las funciones necesarias. A medida que las empresas adquieren un mayor conocimiento de la IAgen y de su uso, deben aplicar medidas de seguridad para garantizar un uso controlado y adecuado, como la verificación de los controles adecuados, el aislamiento de los modelos y el cumplimiento de la normativa pertinente. Sin embargo, estas empresas tampoco han formado a sus empleados en las mejores prácticas de uso de la IA, sobre todo en lo que respecta a las herramientas que deben probarse y aprobarse. La naturaleza dinámica de estos modelos significa que los mismos resultados pueden ser diferentes, por lo que es difícil predecir los resultados con exactitud. Por lo tanto, algunas empresas se plantean utilizar modelos de IA independientes para detectar posibles riesgos en los resultados de la IAO o utilizar herramientas de seguridad para evitar que los datos sensibles se utilicen como fuente de información en primer lugar. En lugar de trasladar los datos a la IA, algunas empresas optan por llevar la IA a los datos, lo que les permite cumplir las normativas de confidencialidad de datos. Los proveedores de servicios en la nube, como AWS y Azure, ofrecen infraestructuras basadas en la geografía, lo que permite a los usuarios almacenar datos en ubicaciones designadas sin copiarlos en servicios de IA externos. Por ejemplo, Adobe y Shutterstock implementan AItrained únicamente en datos con licencia o en datos de dominio público, lo que reduce la probabilidad de que surjan problemas de infracción de los derechos de autor. Adobe incluso ha anunciado su política de indemnización, lo que garantiza que las empresas puedan desplegar con confianza contenidos generados por la IA. Otros proveedores, como Snowflake y Databricks, ofrecen diversos grados de indemnización a sus clientes. Si bien la normativa y la legislación aún están en proceso de elaboración, las empresas pueden empezar a abordar las preocupaciones que suscita la IA aplicando controles similares a los utilizados en otros proyectos de software. En ausencia de marcos federales, la carta de la Comisión Federal de Comercio a OpenAI ofrece orientación sobre la obtención de datos de formación y la supervisión de los modelos de generación de información engañosa o personalmente identificable. Para garantizar el cumplimiento de los requisitos de confidencialidad de los datos, las empresas están explorando opciones como la implantación de herramientas de IAI en las instalaciones o en nubes privadas. La colaboración con proveedores de confianza puede ayudar a gestionar eficazmente los retos de confidencialidad de los datos. Las empresas deben actuar con cautela a la hora de incorporar código fuente o modelos de IA en sus sistemas. Deben aplicarse controles y directrices exhaustivos, y los equipos de seguridad de la información y de cumplimiento de la normativa deben participar en el proceso.