Computo e Internet
Google suspende su IA de imágenes por sesgo hacia minorías
![](https://b3395464.smushcdn.com/3395464/wp-content/uploads/2024/02/google-ai-193713-jpg.webp?lossy=2&strip=1&webp=1)
28 de febrero de 2024 – Google ha retirado su herramienta de generación de imágenes “Imagen” después de que se descubriera que producía resultados discriminatorios, sobrerrepresentando a las minorías en imágenes que reflejaban estereotipos raciales y de género.
¿Qué es Imagen?
Imagen era una herramienta experimental de Google AI que permitía a los usuarios crear imágenes realistas a partir de descripciones textuales. La herramienta se basaba en un modelo de lenguaje grande (LLM) llamado LaMDA, que había sido entrenado con un conjunto de datos masivo de imágenes y texto.
¿Cuál era el problema?
Se descubrió que Imagen producía imágenes discriminatorias cuando se le pedía que generara imágenes de personas. Por ejemplo, si se le pedía que generara una imagen de un “científico”, era más probable que generara una imagen de un hombre blanco que de una mujer o una persona de color.
¿Qué ha hecho Google?
Google ha retirado Imagen de su sitio web y ha anunciado que está trabajando para mejorar la herramienta antes de volver a lanzarla. La compañía ha reconocido que la herramienta tenía “sesgos conocidos” y que no estaba lista para ser utilizada por el público.
¿Qué significa esto para el futuro de la IA?
El caso de Imagen es un ejemplo de los desafíos que enfrenta la IA en relación al sesgo. Los LLM se entrenan con conjuntos de datos masivos que pueden contener sesgos involuntarios. Estos sesgos pueden luego ser amplificados por la IA, lo que puede llevar a resultados discriminatorios.
-
Seguridad2 días ago
Hombre Electrocutado en Carretera Federal Zitácuaro – Ocampo
-
Seguridad3 días ago
Aseguran 950 Dosis de Droga y Detienen a Dos Personas en Operativo en Tarímbaro
-
Seguridad2 días ago
Encharcamiento en Domicilio de la Colonia Infonavit Atendido por Bomberos Zitácuaro
-
Seguridad2 días ago
Sentencian a Dos Personas a Prisión por Portación de Armas en Michoacán
-
Michoacán2 días ago
Santiago, el niño michoacano que ganó campeonato mundial de cálculo mental
-
Michoacán3 días ago
Seimujer mantiene atención durante vacaciones
-
Regionales3 días ago
Vive la experiencia de acampar este verano en Rancho Viejo
-
Michoacán1 día ago
En diciembre Michoacán tendrá nuevo equipo para tratar el cáncer