Computo e Internet
Google suspende su IA de imágenes por sesgo hacia minorías

28 de febrero de 2024 – Google ha retirado su herramienta de generación de imágenes “Imagen” después de que se descubriera que producía resultados discriminatorios, sobrerrepresentando a las minorías en imágenes que reflejaban estereotipos raciales y de género.
¿Qué es Imagen?
Imagen era una herramienta experimental de Google AI que permitía a los usuarios crear imágenes realistas a partir de descripciones textuales. La herramienta se basaba en un modelo de lenguaje grande (LLM) llamado LaMDA, que había sido entrenado con un conjunto de datos masivo de imágenes y texto.
¿Cuál era el problema?
Se descubrió que Imagen producía imágenes discriminatorias cuando se le pedía que generara imágenes de personas. Por ejemplo, si se le pedía que generara una imagen de un “científico”, era más probable que generara una imagen de un hombre blanco que de una mujer o una persona de color.
¿Qué ha hecho Google?
Google ha retirado Imagen de su sitio web y ha anunciado que está trabajando para mejorar la herramienta antes de volver a lanzarla. La compañía ha reconocido que la herramienta tenía “sesgos conocidos” y que no estaba lista para ser utilizada por el público.
¿Qué significa esto para el futuro de la IA?
El caso de Imagen es un ejemplo de los desafíos que enfrenta la IA en relación al sesgo. Los LLM se entrenan con conjuntos de datos masivos que pueden contener sesgos involuntarios. Estos sesgos pueden luego ser amplificados por la IA, lo que puede llevar a resultados discriminatorios.
-
Seguridad3 días ago
Detienen a cinco hombres con arsenal y vehículos robados en Zinapécuaro
-
Michoacán2 días ago
“Salud Casa por Casa” beneficia a más de 450 mil michoacanos con atención médica domiciliaria
-
Congreso3 días ago
Proponen en Michoacán garantizar flexibilidad laboral para conciliar trabajo y familia
-
Congreso3 días ago
Aprueba Congreso de Michoacán autonomía plena a institutos electorales
-
Michoacán3 días ago
Michoacán se consolida como líder en infraestructura con perspectiva de género
-
Congreso2 días ago
Diputada Grecia Aguilar impulsa reforma contra discriminación en espacios públicos de Michoacán
-
Michoacán3 días ago
Proponen inscribir homenaje a migrantes michoacanos en letras doradas en el Congreso
-
Congreso3 días ago
Diputado propone endurecer penas por delitos contra adultos mayores en Michoacán