Google suspende su IA de imágenes por sesgo hacia minorías

28 de febrero de 2024 – Google ha retirado su herramienta de generación de imágenes “Imagen” después de que se descubriera que producía resultados discriminatorios, sobrerrepresentando a las minorías en imágenes que reflejaban estereotipos raciales y de género.

¿Qué es Imagen?

Imagen era una herramienta experimental de Google AI que permitía a los usuarios crear imágenes realistas a partir de descripciones textuales. La herramienta se basaba en un modelo de lenguaje grande (LLM) llamado LaMDA, que había sido entrenado con un conjunto de datos masivo de imágenes y texto.

¿Cuál era el problema?

Se descubrió que Imagen producía imágenes discriminatorias cuando se le pedía que generara imágenes de personas. Por ejemplo, si se le pedía que generara una imagen de un “científico”, era más probable que generara una imagen de un hombre blanco que de una mujer o una persona de color.

¿Qué ha hecho Google?

Google ha retirado Imagen de su sitio web y ha anunciado que está trabajando para mejorar la herramienta antes de volver a lanzarla. La compañía ha reconocido que la herramienta tenía “sesgos conocidos” y que no estaba lista para ser utilizada por el público.

¿Qué significa esto para el futuro de la IA?

El caso de Imagen es un ejemplo de los desafíos que enfrenta la IA en relación al sesgo. Los LLM se entrenan con conjuntos de datos masivos que pueden contener sesgos involuntarios. Estos sesgos pueden luego ser amplificados por la IA, lo que puede llevar a resultados discriminatorios.