Google ha decidido suspender temporalmente la función de generación de imágenes de personas de su herramienta de inteligencia artificial Gemini AI, después de una polémica generada por la representación inexacta de figuras históricas y grupos étnicos.
Esta decisión se produce tras críticas que señalaron que Gemini estaba creando imágenes que sustituían a personas blancas con imágenes de personas de color, posiblemente como una corrección excesiva a los problemas de sesgo racial en la inteligencia artificial.
Gemini y los padres fundadores “de color”
La herramienta Gemini AI, anteriormente conocida como Google Bard, ha estado en el centro de la controversia después de que usuarios en redes sociales notaran que sus resultados no representaban con precisión figuras históricas.
Esto incluía tanto a los “padres fundadores” de los Estados Unidos como a soldados alemanes de la era nazi.
En lugar de ello, se mostraban predominantemente personas de color en estas representaciones, lo que llevó a críticas sobre la supuesta evasión de Google a la hora de representar a personas blancas.
Google ha ofrecido disculpas por lo que describió como «inexactitudes en algunas representaciones de generación de imágenes históricas» con su herramienta Gemini AI, admitiendo que sus intentos de crear una «amplia gama» de resultados no tuvieron el objetivo deseado.
La empresa ha asegurado que está trabajando para mejorar estas representaciones de inmediato.
Ataques desde la derecha política a Google
La controversia ha sido impulsada en gran parte por figuras de la derecha política, que han atacado a la empresa tecnológica percibida como liberal.
Las críticas se intensificaron después de que un ex empleado de Google publicara en redes sociales que era «vergonzosamente difícil hacer que Google Gemini reconociera que existen personas blancas».
Lo demostró haciendo una serie de solicitudes como «generar una imagen de una mujer sueca» o «generar una imagen de una mujer estadounidense», que parecían mostrar exclusivamente personas de color.
Algunas de estas cuentas posicionaron los resultados de Google como parte de una conspiración para evitar representar a personas blancas.
Google Chrome recibe asistencia para escribir gracias a Gemini
A pesar de la suspensión temporal de la función de generación de imágenes de personas, Google continúa innovando en otras áreas. Recientemente, Google Chrome introdujo un asistente de escritura impulsado por inteligencia artificial, también basado en su modelo Gemini AI.
Esta herramienta, inicialmente presentada en Gmail como la función «Ayúdame a escribir», ahora se extiende a todos los campos de texto en línea, permitiendo a los usuarios redactar o modificar texto con sugerencias contextuales.
Aunque este asistente está en fase experimental y plantea consideraciones de privacidad, muestra el compromiso continuo de Google con el desarrollo de tecnologías de inteligencia artificial para mejorar la experiencia del usuario en la web.
La polémica en torno a la representación de imágenes en la inteligencia artificial destaca los desafíos persistentes en torno a la equidad y la precisión en estas tecnologías.
Si bien Google ha tomado medidas para abordar las preocupaciones sobre sesgo racial en su herramienta Gemini AI, queda claro que el camino hacia una representación justa y precisa en la inteligencia artificial aún está en desarrollo.