El generador de imágenes basado en IA desarrollado por Meta, conocido como Imagine, enfrenta acusaciones de sesgo racial. Los usuarios han descubierto que la herramienta no puede producir imágenes que representen a un hombre asiático con una mujer blanca. Este sesgo es sorprendente considerando que Mark Zuckerberg, CEO de Meta, está casado con una mujer de ascendencia asiática oriental. El generador de imágenes basado en IA, Imagine, fue lanzado a finales de 2023 y tiene la capacidad de transformar rápidamente las indicaciones escritas en imágenes realistas. Sin embargo, los usuarios descubrieron que consistentemente fallaba en generar imágenes con parejas de diferentes razas. Al solicitar una imagen de un hombre asiático con una esposa blanca, la herramienta solo mostraba imágenes de parejas asiáticas. Algunos usuarios incluso compartieron imágenes de Zuckerberg y su esposa, bromeando diciendo que lograron obtener la imagen deseada manualmente. The Verge fue el primero en informar sobre este problema, con la periodista Mia Sato declarando que intentó crear imágenes de hombres y mujeres asiáticos con parejas o amigos blancos docenas de veces, pero solo obtuvo resultados precisos en una ocasión.

Meta aún no ha respondido a la solicitud de comentarios de Business Insider sobre este asunto. Vale la pena mencionar que Meta no es la primera compañía tecnológica en enfrentar críticas por la IA "racista". Google tuvo que cancelar temporalmente su generador de imágenes Gemini cuando se descubrió que las imágenes generadas eran históricamente inexactas, incluyendo representaciones de nazis asiáticos en Alemania en 1940, vikingos negros y mujeres caballeros medievales. Estos incidentes resaltan las preocupaciones continuas sobre los sesgos raciales en los algoritmos de IA. Cuando los algoritmos predictivos se basan fuertemente en opiniones de la multitud, estereotipos o datos sesgados, pueden perpetuar la exclusión, los estereotipos y la discriminación injusta hacia individuos y comunidades. Las IA generativas como Gemini e Imagine se basan en grandes cantidades de datos de entrenamiento obtenidos de la sociedad. Si existe una falta de representación de parejas de diferentes razas en estos datos, podría explicar las dificultades de la IA para generar ese tipo de imágenes.