Des artistes et des informaticiens utilisent un outil appelé Nightshade pour protéger les images sous copyright afin qu'elles ne soient pas reproduites par des plateformes d'intelligence artificielle (IA). Nightshade modifie les images de manière imperceptible pour les humains, mais les altère de manière significative aux yeux des modèles d'IA. En "empoisonnant" leurs œuvres avec Nightshade, des artistes comme Karla Ortiz peuvent empêcher leur travail d'être scanné et copié par des programmes de conversion texte-photo. L'outil profite du fait que les machines "voient" les images différemment des humains : Nightshade modifie les valeurs des pixels pour créer des images qui semblent complètement différentes pour les modèles d'IA.

Les distorsions ciblées de Nightshade peuvent tromper les modèles d'IA en leur faisant percevoir un concept différent, par exemple en remplaçant des images de chiens par des images déformées ressemblant à des chats. Bien que Nightshade ne soit pas censé menacer les générateurs d'images d'IA, il peut rendre certaines applications plus étroites inutilisables et rendre les entreprises responsables de l'utilisation du travail des artistes sans leur permission. L'outil est gratuit à utiliser et son créateur souhaite le maintenir ainsi. Bien qu'il puisse exister des défenses potentielles contre l'empoisonnement d'images par Nightshade, l'utilisation de tels outils souligne la nécessité de garantir des mesures de protection et des réglementations supplémentaires dans l'industrie de l'IA.