La interacción con los generadores de imágenes de IA puede ser agradable, pero tienen un inconveniente: su naturaleza generadora. Estos algoritmos recopilan información de Internet y producen resultados influenciados por esas fuentes, lo que puede ser un problema, ya que la IA puede aprender y replicar trabajos artísticos fotográficos sin la debida compensación al artista o fotógrafo. Además, las personas que aparecen en las fotografías podrían no apreciar que la IA altere su apariencia de forma extraña o no autorizada. Para resolver este problema, el Laboratorio de Inteligencia Artificial y Ciencias de la Computación( CSAIL) del MIT ha creado una herramienta llamada" PhotoGuard" para proteger las imágenes de ediciones malintencionadas. La clave de la funcionalidad de PhotoGuard reside en la manipulación de los píxeles, con cambios sutiles e imperceptibles para el ser humano, pero que alteran significativamente los algoritmos.

ElMIThadesarrolladodosmétodos, descritosporHadiSalman, principalautoryestudiantedoctoradodelinstituto. SalmanopropusoquelosfabricantesdeAImodelopudieranproporcionarinterfacesdeprogramacióndeaplicaciones( API) paraprotegere" inmunizar" lasfotosdeotrosindividuos. Esta sugerencia es válida, sobre todo a la luz de los numerosos pleitos en los que se han utilizado modelos A sobre obras de creadores sin su consentimiento, lo que ha dado lugar a litigios como el caso de Getty Images y Stability AI, en el que se copiaron supuestamente más de 12 millones de imágenes sin permiso ni compensación.