La situación se complicó cuando el modelo de IA adoptó una actitud demasiado cautelosa, negándose a responder a indicaciones que no fueran de naturaleza ofensiva. Esta dualidad de ser demasiado compensatorio en algunos casos y demasiado conservador en otros, dio lugar a imágenes que fueron consideradas embarazosas e incorrectas.
Google se ha asegurado de desarrollar la función de creación de imágenes de Gemini para evitar la creación de imágenes violentas o sexualmente explícitas de personas reales, y se esfuerza por incluir personas de diferentes razas y características. Sin embargo, surgieron problemas cuando el sistema se negó a producir imágenes de personas de una raza o género en particular a pedido.
Los usuarios descubrieron que se rechazaban solicitudes específicas para crear imágenes de personas blancas, mientras que se rechazaban las solicitudes de una «foto glamorosa de una pareja blanca». [de determinada etnia ou nacionalidade]Se concedió a solicitudes identificadas como “chinas”, “judías” y “sudafricanas”, pero no a solicitudes de personas blancas.
Problemas con la precisión histórica
La cuestión no se limita únicamente a la representación de etnias; Crear imágenes históricamente precisas también ha demostrado ser un gran desafío. Por ejemplo, cuando se le solicitaron imágenes de soldados alemanes durante la Segunda Guerra Mundial, Gemini creó imágenes de hombres negros y mujeres asiáticas vistiendo uniformes nazis.
Pruebas similares con solicitudes para crear retratos de «los padres fundadores de Estados Unidos» o «papas a través de los tiempos» han llevado a que personas de color sean representadas en estos roles históricos. Cuando se le pidió que corrigiera estas imágenes para reflejar la precisión histórica, el sistema simplemente se negó a generar ningún resultado.
Raghavan reiteró que no era intención de Google que Gemini se negara a fotografiar a ningún grupo específico o crear imágenes históricamente inexactas. La compañía prometió trabajar para mejorar las capacidades de generación de imágenes de Gemini, un proceso que incluirá «pruebas exhaustivas». Por lo tanto, es posible que tarde algún tiempo en reactivar la función.
Actualmente, si un usuario intenta crear una foto, la respuesta del chatbot es: «Estamos trabajando para mejorar la capacidad de Gemini para crear fotografías de personas. Esperamos que esta función vuelva pronto y le avisaremos en las actualizaciones de versión cuando eso suceda». «.
Buscando una solución
Por lo tanto, Google modifica y mejora constantemente la tecnología de imágenes de Gemini. Este esfuerzo pretende lograr un equilibrio entre una representación diversa y precisa de las personas sin caer en generalizaciones ni errores históricos.
La promesa de una solución que respete la diversidad y la precisión histórica refleja el compromiso de la empresa de responder a las inquietudes de los usuarios y mejorar su tecnología de inteligencia artificial.
Mientras los usuarios esperan que se reactive esta función, la transparencia y las actualizaciones continuas de Google son clave para mantener la confianza y anticipar mejoras significativas en la forma en que la IA entiende y representa la diversidad humana.
Otros artículos interesantes: