OpenFactCheck: Una Nueva Herramienta para Verificar Hechos de LLMs

Con el uso creciente de modelos de lenguaje grandes (LLMs) en muchas áreas, se ha vuelto importante tener herramientas que verifiquen automáticamente la veracidad de lo que dicen. Estos modelos a menudo pueden crear información falsa, un problema conocido como "alucinación". Verificar hechos en respuestas de dominio abierto es complicado porque es difícil evaluar su precisión de forma integral. Además, se han realizado muchos estudios, pero no usan los mismos estándares, lo que hace que sea difícil comparar resultados. Para abordar estos problemas, se ha creado un nuevo marco llamado OpenFactCheck, que tiene tres partes.

#Tres Módulos de OpenFactCheck

1. Verificador de Hechos Personalizado: Esta parte permite a los usuarios crear su propio sistema de verificación de hechos. Revisa todas las afirmaciones en un documento para averiguar si son verdaderas o falsas.

2. Evaluación de LLM: Este módulo analiza cuán preciso es el LLM en su totalidad. Examina su capacidad para proporcionar información fidedigna y ofrece un resumen de sus fortalezas y debilidades.

3. Evaluador de Verificadores de Hechos: Este último módulo evalúa qué tan bien funcionan otros sistemas de verificación de hechos. Los clasifica según precisión, rapidez y costo.

Este nuevo marco está disponible como software de código abierto, una biblioteca de Python y un servicio web, facilitando su uso para cualquiera.

#La Necesidad de Precisión Factual

Los LLMs pueden ofrecer respuestas impresionantes y que suenan naturales a muchas preguntas. Sin embargo, incluso modelos avanzados como GPT-4 pueden seguir produciendo contenido incorrecto. Esto crea problemas para los usuarios que dependen de estos modelos ya que reduce su confiabilidad. Los investigadores han señalado dos problemas principales al verificar la factualidad de los LLMs:

1. Dificultad de las Respuestas de Dominio Abierto: Evaluar la precisión de las respuestas de texto libre de estos modelos no es sencillo.

2. Variedad de Métodos de Evaluación: Diferentes estudios utilizan diferentes conjuntos de datos y medidas para evaluar estos modelos, lo que dificulta la comparación de sus desempeños.

#Introduciendo OpenFactCheck

OpenFactCheck es un marco de código abierto diseñado para superar estos desafíos. Tiene un sistema de demostración con tres módulos principales. Cada módulo se enfoca en un aspecto diferente de la evaluación de la factualidad.

1. Verificador de Hechos Personalizado: Los usuarios pueden modificar el sistema de verificación de hechos según sus necesidades. Pueden revisar documentos de texto libre en busca de precisión.

2. Evaluador de Factualidad de LLM: Este evalúa la capacidad factual de un LLM usando varios estándares y proporciona un informe detallando sus fortalezas y debilidades.

3. Evaluador de Verificadores de Hechos: Este evalúa el rendimiento de diferentes verificadores de hechos y los clasifica entre sí según su precisión, latencia y costos.

El marco permite que los diferentes módulos trabajen juntos. La información de las verificaciones humanas puede ser utilizada para evaluar el desempeño de los verificadores de hechos automatizados. El verificador de hechos que mejor funcione puede ser utilizado para futuras tareas de verificación.

#Características del Marco

Los usuarios pueden personalizar sus verificadores según sus requisitos específicos, como el área de conocimiento, costo y rapidez. Pueden encontrar errores tanto en textos escritos por humanos como en los resultados generados por LLMs. Los investigadores de LLM pueden enviar las respuestas de sus modelos, y las evaluaciones proporcionarán informes analizando su precisión.

Los desarrolladores pueden comparar sus sistemas de verificación de hechos de manera justa al subir sus resultados. El sistema luego los clasifica basándose en los mismos criterios.

#Arquitectura del Sistema

El diseño de OpenFactCheck se centra en dos ideas principales:

1. Personalización y Extensibilidad: Los usuarios y desarrolladores pueden modificar y expandir fácilmente el marco.

2. Compatibilidad con Métodos Existentes: Puede trabajar con conjuntos de datos y métodos actuales sin problemas.

El marco consta de tres módulos principales, cada uno con tareas específicas. Estas tareas descomponen el proceso general en pasos manejables, facilitando la evaluación y verificación de diferentes afirmaciones.

#Evaluación de la Factualidad de los Modelos de Lenguaje

Hay desafíos al evaluar qué tan bien los modelos de lenguaje proporcionan respuestas fácticas. Diferentes estudios que evalúan modelos de lenguaje a menudo usan diferentes conjuntos de datos, lo que complica las comparaciones. Muchas evaluaciones anteriores se centraron en el rendimiento general más que en medir específicamente la precisión fáctica.

Para proporcionar una evaluación justa, OpenFactCheck recopila preguntas fácticas de varios conjuntos de datos. Esta recopilación tiene como objetivo explorar diferentes tipos de errores fácticos en muchos dominios. Se han reunido un total de 6,480 ejemplos. Cada pregunta está etiquetada con detalles como su dominio, tema y tipo de error potencial.

#Tipos de Errores en las Respuestas

Cuando un modelo de lenguaje genera información incorrecta, puede caer en tres tipos de errores comunes:

1. Error de Conocimiento: Esto sucede cuando el modelo proporciona información falsa debido a la falta de conocimiento preciso o al aprendizaje erróneo de información incorrecta durante el entrenamiento.

2. Error de Sobrecompromiso: Esto ocurre cuando el modelo no reconoce inexactitudes o humor en un aviso y responde incorrectamente.

3. Error de Discapacidad: Esto sucede cuando el modelo no puede encontrar información actualizada para preguntas que requieren hechos actuales, como datos en tiempo real.

#Medición del Éxito de la Evaluación

Para determinar si la respuesta de un modelo es correcta, OpenFactCheck utiliza dos métodos principales. Para preguntas con respuestas simples de Sí/No, las respuestas se comparan directamente con una respuesta estándar. Para otras preguntas, especialmente aquellas que requieren respuestas más detalladas, se emplean sistemas automatizados de verificación de hechos para evaluar la precisión de las afirmaciones.

La efectividad de estos sistemas se mide usando varias métricas como precisión, recuperación y puntuación F1. Esto asegura una evaluación completa de qué tan bien funcionan los verificadores de hechos.

#Acceso de Usuarios y Despliegue

OpenFactCheck está diseñado para ser fácil de usar. Incluye una interfaz web que permite a los usuarios navegar por el sistema fácilmente. Además, está disponible como una biblioteca de Python independiente, lo que proporciona flexibilidad para integrarse en nuevos proyectos.

La biblioteca es de código abierto y se puede instalar fácilmente utilizando herramientas estándar de gestión de paquetes. Proporciona a los desarrolladores componentes esenciales para construir funcionalidades de verificación de hechos dentro de sus aplicaciones.

#Conclusión

OpenFactCheck es una nueva solución prometedora para evaluar la precisión fáctica de los resultados de modelos de lenguaje grandes. Al proporcionar un marco personalizable y extensible, aborda varios problemas críticos en el campo de la evaluación de la factualidad. Esta iniciativa fomenta el desarrollo continuo de herramientas sólidas de verificación de hechos y la recopilación de preguntas desafiantes, allanando el camino para futuras investigaciones sobre la precisión de los modelos de lenguaje.

Con OpenFactCheck, los usuarios pueden asegurarse de que la información generada por los LLM no solo sea convincente, sino también veraz. Este es un paso importante para hacer que las tecnologías de IA sean más confiables y seguras para diversas aplicaciones.