En este escenario, un adversario pretende modificar imágenes procedentes de Internet. El adversario proporciona instrucciones textuales detallando los cambios deseados y emplea un modelo de difusión para generar imágenes realistas que se ajusten a lo solicitado. El sistema PhotoGuards interrumpe la capacidad del adversario para ejecutar con éxito los comandos inmunizando la imagen original antes de que se pueda acceder a ella. A medida que nos adentramos en una era en la que las tecnologías basadas en la inteligencia artificial pueden crear y manipular imágenes con una precisión asombrosa, difuminando los límites entre realidad y fabricación, el riesgo de que se produzcan errores es significativo. Los modelos generativos avanzados, como DALL- E y Midjourney, han hecho que la generación de imágenes hiperrealistas sea relativamente sencilla, incluso para los usuarios principiantes. Para ello, los investigadores del Laboratorio de Informática e Inteligencia Artificial( CSAIL) del MIT han desarrollado" PhotoGuard", una técnica que utiliza pequeñas alteraciones imperceptibles en los valores de píxel, conocidas como" perturbaciones", que alteran la capacidad del modelo para manipular las imágenes de forma eficaz. PhotoGuard emplea dos métodos de ataque diferentes para generar estasperturbaciones. Elataque" codificador" atacadirectamentealarepresentaciónatentadelimagenenelModeloA, haciendoqueelmodeloperciba laimagencomounaentidadaleatoria, haciendocasiimposiblecualquierintentodemanipularlaimagenenelmodelo. Loscambiosintroducidos El ataque por difusión, más complejo, abarca desde el principio hasta el final el modelo de difusiónentiente. Consisteendefinirunaimagenyoptimizarlasperturbacionesparaqueseaproximenalobjetivo deseado. ElequipodelMITloconsiguióintroduciendoperturbacionesenelespaciodeentrada de la imagen original. Estasperturbacionesseutilizabanenlafasedeinferencias, proporcionandounabuenadefensacontralamanipulaciónnoautorizada. Lasimplicacionesdeunusoinadecuadoenestecontextovanmásalládelámbitopúblico. Lasimágenespersonalespuedenseralteradasdeformaadecuadayutilizadasparaelchantaje, loqueprovocaríaunarepercusiónfinancieraimportantea granescala. Además, los modelos pueden utilizarse para simular ideas e imágenes con el fin de fabricar delitos falsos, causando estrés psicológico y pérdidas económicas. La velocidad a la que pueden ejecutarse estas acciones agrava aún más el problema. Incluso después de que el engaño haya quedado al descubierto, el daño- ya sea reputacional, emocional o económico- ya se ha producido.

En la práctica, los modelos de IA perciben las imágenes de un modo distinto al de los humanos: interpretan las imágenes como un complejo conjunto de datos matemáticos que describen el color y la posición de cada píxel, lo que se conoce como la representación latente de la imagen. Los cambios introducidos son imperceptibles para el ojo humano, lo que preserva la integridad visual de la imagen al tiempo que la protege de manipulaciones no autorizadas. El ataque de difusión más intrincado tiene como objetivo estratégico el modelo de difusión reducido e implica la selección de una imagen de destino deseada y la optimización de las perturbaciones para que se ajusten al objetivo. Para ilustrarlo, consideremos un proyecto de arte en el que la imagen original es un dibujo y la imagen de destino es un dibujo completamente distinto. El ataque de difusión consiste en realizar un cambio perceptible en los dibujos originales para que el modelo A empiece a percibir algo parecido a este segundo dibujo. De este modo, cualquier modelo A que intente modificar la imagen original altera, sin saberlo, la imagen de destino, protegiéndola así de manipulaciones intencionadas. Por ejemplo, con PhotoGuard, suponga que tiene una imagen animada con varias caras: puede enmascarar las caras que desee conservar y presentar el sistema con" dos asistentes a una boda". " Para evitar que la imagen se edite aún más, añada alteraciones a la imagen antes de cargarla para que no se modifique. Sin embargo, esto puede hacer que el resultado final no parezca realista en comparación con la imagen original no inmunizada. Los creadores de modelos de edición de imágenes son aliados clave, y una respuesta integrada por su parte es necesaria para que PhotoGuard sea eficaz. Los responsables políticos deberían plantearse la aplicación de normativas que obliguen a las empresas a proteger los datos de los usuarios frente a este tipo de manipulaciones. Si bien PhotoGuards es prometedor, no es una solución a prueba de errores. Una vez que se ha alineado la imagen, cualquier persona malintencionada puede intentar burlar las medidas de protección, por ejemplo, aplicando ruido, recortando o rotando la imagen. Sin embargo, se puede aprovechar el trabajo previo en el campo de los ejemplos adversarios para aplicar perturbaciones sólidas que pongan freno a las manipulaciones habituales de la imagen. Un enfoque colaborativo en el que participen desarrolladores de modelos, plataformas de medios sociales y responsables políticos puede establecer una defensa sólida contra la manipulación no autorizada de la imagen. Hoy en día es crucial abordar esta cuestión tan apremiante y, aunque PhotoGuard contribuye a resolverla, aún queda mucho trabajo por hacer para garantizar una protección práctica. Las empresas que desarrollan estos modelos deberían invertir en la ingeniería de mecanismos de protección eficaces contra las amenazas potenciales que plantean estas herramientas de la IA.