OpenAI ha anunciado CriticGPT, una nueva herramienta de inteligencia artificial creada para corregir fallas en el código generado por ChatGPT.
Según la empresa, a medida que ChatGPT ha evolucionado con el tiempo, se ha vuelto más difícil de depurar. Para solucionar el problema, OpenAI creó una herramienta dirigida no al consumidor, sino al código.
La compañía afirmó que después de revisar CriticGPT, la precisión de los resultados del código mejoró en el 60% de los casos.
Continúa después del anuncio.
La nueva IA puede resaltar errores identificados en una respuesta de ChatGPT, que los humanos pueden no notar. Para ello utiliza el sistema Aprendizaje mejorado a partir de la retroalimentación humana (RLHF), que analiza las respuestas chatbot Sugiere respuestas más correctas basadas en las comparaciones realizadas por los entrenadores de IA.
CriticGPT analizó un conjunto de datos de entrenamiento de ChatGPT considerado «perfecto» por entrenadores humanos e identificó imprecisiones en el 24% de los casos.
Continúa después del anuncio.
A pesar de la doble verificación, OpenAI explicó que las sugerencias de CriticGPT pueden ser incorrectas. Además, la empresa no tiene conocimiento de cómo se comportará la herramienta en tareas más complejas, ya que fue entrenada con información breve.
