Las comunidades tecnológica y académica están cada vez más preocupadas por la herramienta de transcripción de OpenAI, Whisper, y su tendencia a proporcionar información inexacta en la transcripción de audio. Bueno, es preocupante por varias razones.
Según un informe de agencia de noticiasProfesionales, desde ingenieros de software hasta investigadores, encuentran problemas inesperados con Whisper. Lo que genera dudas sobre su fiabilidad..
Si bien a veces se sabe que las herramientas de IA generativa “alucinan” (o generan información completamente falsa), los errores de transcripción son particularmente preocupantes porque socavan el propósito principal de la transcripción: Representar contenido hablado con precisión.
A pesar de las expectativas de que la transcripción de la IA se mantendría fiel al audio, se dice que Whisper agregó de todo, desde lenguaje con carga racial hasta consejos médicos falsos. Lo cual puede tener graves consecuencias si se utiliza en entornos médicos o sensibles..
OpenAI restringirá el uso de Whisper a contextos de alto riesgo
Los investigadores citados en el informe de AP proporcionaron datos que resaltan el alcance de estos errores. Por ejemplo, un investigador de la Universidad de Michigan descubrió que Whisper inducía alucinaciones. En ocho de cada diez textos de asambleas generales estudiados.
Asimismo, un ingeniero de aprendizaje automático analizó más de 100 horas de texto generado por Whisper Se identificaron alucinaciones en más de la mitad de ellos.. Un programador compartió resultados aún más alarmantes: encontró errores de este tipo en casi todos los 26.000 scripts que procesó con Whisper.
OpenAI respondió a estos hallazgos diciendo que está "trabajando continuamente para mejorar la precisión de nuestros modelos, incluida la reducción de las alucinaciones". La compañía también confirmó que cuenta con políticas de uso para restringir la aplicación de Whisper a "ciertos contextos de toma de decisiones de alto riesgo".
Apreciamos los conocimientos compartidos por los investigadores.
Agregó un portavoz de OpenAI, Esto indica la apertura de la empresa a la retroalimentación. Mientras buscamos resolver estos problemas.
Lea también:
