Artistas y científicos de la computación están utilizando una herramienta llamada Nightshade para proteger imágenes con derechos de autor de replicarse en plataformas de inteligencia artificial (IA). Nightshade altera las imágenes de manera imperceptible para los humanos pero las modifica significativamente a los ojos de los modelos de IA. Al "envenenar" sus obras de arte con Nightshade, artistas como Karla Ortiz pueden evitar que su trabajo sea escaneado y copiado por programas de texto a foto. La herramienta aprovecha el hecho de que las máquinas "ven" las imágenes de manera diferente a los humanos, alterando los valores de los píxeles para crear imágenes que aparecen completamente diferentes para los modelos de IA.

Las distorsiones dirigidas de Nightshade pueden confundir a los modelos de IA y hacer que perciban un concepto diferente, como reemplazar imágenes de perros con imágenes distorsionadas similares a gatos. Si bien no se espera que Nightshade amenace a los generadores de imágenes de IA, puede hacer que algunas aplicaciones más estrechas sean inutilizables y responsabilizar a las empresas por utilizar el trabajo de los artistas sin permiso. La herramienta es gratuita de usar y su creador tiene la intención de mantenerla así. Si bien puede haber defensas potenciales contra el envenenamiento de imágenes de Nightshade, el uso de tales herramientas resalta la necesidad de salvaguardias y regulaciones adicionales en la industria de la IA.