Künstler sind stark von der Entstehung generativer KI betroffen, die Modelle wie Midjourney und DALL-E 2 verwendet, um Bilder aus Texteingaben zu erzeugen. Viele Künstler fühlen, dass ihre Arbeit ohne Zustimmung genutzt wurde, um diese Modelle zu trainieren, was ihre Kreativität ersetzt und ihre Existenzgrundlage gefährdet. Inspiriert von den Sorgen der Künstler, haben Ben Zhao und das SAND Lab der University of Chicago Werkzeuge namens Glaze und Nightshade entwickelt. Diese Werkzeuge helfen Künstlern, ihre Arbeit vor unbefugter Nutzung durch KI zu schützen, indem sie Bilder subtil verändern, um zu verhindern, dass KI-Modelle ihre Stile replizieren. Glaze, das im März 2023 eingeführt wurde und über 6 Millionen Mal heruntergeladen wurde, fügt Bildern eine Schutzschicht hinzu, während Nightshade Bilder verzerrt, um das Training von KI-Modellen zu stören.

Diese Produkte zielen darauf ab, die Machtverhältnisse von großen Tech-Konzernen weg zu verlagern und die Rechte der Kreativen zu schützen. Trotz ihrer Effektivität sind die Werkzeuge auf Skepsis und Kritik gestoßen. Einige Forscher behaupteten, die Abwehr von Glaze durchbrochen zu haben, während andere befürchten, diese Werkzeuge könnten ein falsches Gefühl der Sicherheit bieten. Dennoch arbeiten Zhao und seine Kollegen weiter an der Verfeinerung dieser Werkzeuge, da sie sie als wichtig erachten, um Künstlern vorübergehenden Schutz zu bieten und faire Nutzungsvereinbarungen voranzutreiben. Mitten in laufenden rechtlichen Auseinandersetzungen und ethischen Debatten über den Einsatz von KI in künstlerischen Werken bieten Glaze und Nightshade Künstlern die Möglichkeit, ihre Kreationen zu schützen und Anerkennung sowie Entschädigung in der sich rasch entwickelnden KI-Landschaft zu fordern.