Uno de los mayores problemas que enfrentan los modelos de inteligencia artificial (IA) es el hecho de que ocurren algunos eventos inesperados durante su entrenamiento. Recientemente, vimos que Gemini, el modelo de inteligencia artificial de Google, tenía algunos comportamientos racistas. Pero después de todo el escándalo ocurrido, Google salió a explicar qué salió mal…
Después de la polémica en torno a Google Pido disculpas En una publicación en X, luego brindó una explicación más detallada de los errores de Géminis en su escritura. Blog.
Las explicaciones de Google para la inclusión hiperbólica de Géminis
Prabhakar Raghavan, vicepresidente senior de búsqueda, asistente, anuncios, mapas geográficos y productos relacionados de Google, comienza la publicación reconociendo el error y disculpándose. Google dice que "no quiere que Gemini se niegue a fotografiar a ningún grupo en particular" o "cree imágenes que sean históricas o inexactas". ¿Cuáles podrían ser en realidad dos conceptos opuestos?.
Entonces demuestra que si le haces una solicitud a Géminis Solicitar fotos de un tipo específico de personacomo “un maestro negro en el aula, un veterinario blanco con un perro o personas en un contexto cultural o histórico particular, deberían obtener una respuesta que refleje exactamente lo que preguntan”.
Mountain View afirma haber identificado dos responsables de lo sucedido. Más específicamente:
- "Nuestro ajuste para garantizar que Géminis mostrara una variedad de personas no tuvo en cuenta los casos en los que claramente no debería haber mostrado una variedad".
- "Con el tiempo, el modelo se volvió más cauteloso de lo que pretendíamos, se negó a responder a ciertas solicitudes y malinterpretó algunas solicitudes muy simples como sensibles".
Como resultado, la herramienta de imágenes de Gemini, que funciona con la Imagen 2, "compensaba excesivamente en algunos casos y era demasiado conservadora en otros".
Como se mencionó previamente, Google prometió trabajar en nuevas mejoras Antes de que se reactive la funcionalidad para las personas mediante “pruebas exhaustivas”.
En la publicación, Raghavan hace una clara distinción entre Gemini y su propio motor de búsqueda, y recomienda encarecidamente confiar en la Búsqueda de Google, ya que explica que "sus sistemas separados muestran información nueva y de alta calidad" sobre el tema. Con fuentes de toda la web.
La declaración termina con una advertencia: no pueden prometer que esto no volverá a suceder, Abre la puerta a resultados más inexactos, ofensivos y engañosos.. Sin embargo, seguirán tomando las medidas necesarias para corregir esta situación. Finalmente, destaca el potencial de la IA como una tecnología emergente con muchas posibilidades.
Lea también:
