Mejorando Modelos de Lenguaje Financiero con Datos de Calidad

En los últimos tiempos, los Modelos de lenguaje grandes (LLMs) se han vuelto herramientas populares en varios campos. Estos modelos pueden procesar y generar texto como lo harían los humanos, lo que los hace útiles para muchas tareas. Una área en la que pueden marcar una gran diferencia es en finanzas. Sin embargo, para sobresalir realmente en este campo, estos modelos necesitan Datos de buena calidad para aprender. Este artículo habla de un enfoque para crear un conjunto de datos sólido de instrucciones financieras que ayude a mejorar el rendimiento de los modelos de lenguaje en tareas financieras.

#La Necesidad de Datos de Calidad en Finanzas

Cuando hablamos de tareas financieras, nos referimos a cualquier cosa relacionada con dinero, acciones, inversiones y otros servicios Financieros. Si estos modelos de lenguaje dan respuestas incorrectas o irrelevantes en finanzas, puede llevar a problemas significativos, como decisiones de inversión malas. Por lo tanto, es crucial proporcionarles datos de instrucción de alta calidad que sean específicos para el dominio financiero.

En el pasado, algunos investigadores intentaron desarrollar datos de instrucción para LLMs usando varias estrategias. Desafortunadamente, aunque usaron modelos avanzados como GPT-4, los datos generados no eran del todo adecuados para las tareas relacionadas con finanzas. Esta brecha motivó el desarrollo de una mejor manera de recopilar datos específicamente para aplicaciones financieras.

#Un Proceso Innovador de Creación de Datos

Este artículo describe un proceso estructurado para recoger datos de alta calidad adaptados a finanzas. Los pasos clave en este proceso son:

1. Seleccionar una Fuente Confiable: El proceso comienza eligiendo una fuente de información confiable, que es crucial para obtener datos precisos. Para finanzas, seleccionamos informes de investigación de corretajes. Estos informes son escritos por expertos financieros y contienen valiosos conocimientos sobre varios temas financieros.

2. Simular Conversaciones: Una vez que tenemos los informes, usamos un modelo de lenguaje para crear una conversación simulada entre un experto financiero y un inversor. El modelo genera Preguntas que un inversor podría hacer basándose en la información de los informes, y luego proporciona respuestas desde la perspectiva del experto.

3. Revisión de Expertos: Después de simular diálogos, recopilamos las preguntas generadas. Un grupo de expertos financieros luego revisa estas preguntas. Ellos verifican si las preguntas cubren una gama diversa de temas financieros y sugieren mejoras. Este proceso de revisión asegura que las preguntas sean relevantes y adecuadas para discusiones financieras.

4. Muestreo y Expansión de Datos: Una vez que las preguntas están refinadas, seleccionamos aleatoriamente algunas de ellas y las volvemos a introducir en el modelo para generar más diálogos. Este paso ayuda a aumentar la variedad y tamaño del conjunto de datos, creando una colección robusta de conversaciones.

Siguiendo estos pasos, terminamos con un conjunto de datos sustancial que consiste en 103,000 chats de múltiples turnos centrados en temas financieros. Este conjunto de datos sirve como una base sólida para el entrenamiento adicional de los modelos de lenguaje.

#Evaluación del Rendimiento del Modelo

Para verificar qué tan bien los modelos de lenguaje realizan tareas financieras, probamos nuestro conjunto de datos recopilado ajustando modelos existentes. Usamos tanto modelos fundamentales, como LLama, como modelos ajustados por instrucciones, como Vicuna. La diferencia aquí es que Vicuna ha sido entrenado adicionalmente con diálogos de instrucción, dándole una ventaja a la hora de seguir instrucciones.

En nuestros experimentos, queríamos averiguar:

1. ¿Puede el ajuste de nuestro conjunto de datos mejorar el rendimiento del modelo en tareas financieras?
2. ¿Puede el modelo ajustado seguir rindiendo bien en tareas generales?
3. ¿Cuál modelo muestra el mejor rendimiento después de ser entrenado con nuestro conjunto de datos?

Para evaluar el rendimiento del modelo, también aplicamos tareas de evaluación específicas que prueban varias habilidades, incluyendo razonamiento y comprensión.

#Resultados de Evaluación Automática

Reunimos resultados que mostraron cómo modelos, como LLAMA en diferentes tamaños, se desempeñaron antes y después del ajuste. Aquí hay algunas observaciones significativas:

• El ajuste consistentemente mejoró el rendimiento en todas las tareas.
• Los modelos más grandes tienden a desempeñarse mejor, pero los resultados no siempre eran directos. Factores como la técnica de entrenamiento y la calidad del conjunto de datos jugaron un papel en qué tan bien se desempeñaron.
• Los modelos que pasaron por el ajuste mostraron habilidades particularmente fuertes en tareas de razonamiento, reflejando capacidades mejoradas gracias a nuestro conjunto de datos adaptado.

#Prueba de Preguntas Financieras Específicas

Para medir la competencia del modelo en finanzas, diseñamos un conjunto de preguntas revisadas por expertos financieros y las evaluamos con GPT-4, que calificó las respuestas de los modelos. La evaluación reveló que:

• Los modelos sin ajuste aún mostraron mejora según el tamaño, con modelos más grandes rindiendo mejor.
• Después de aplicar el ajuste, hubo un aumento notable en las puntuaciones, mostrando que nuestro método de entrenamiento fue efectivo para contenido financiero.

#Estudios de Caso: Antes y Después del Ajuste

Al comparar las respuestas de los modelos antes y después del ajuste, observamos diferencias claras. Los modelos sin ajustar lucharon por proporcionar información financiera relevante, mientras que los que fueron ajustados ofrecieron respuestas más precisas e informativas. Esta mejora destaca el valor de un sólido método de creación de datos y un ajuste efectivo del modelo.

#Conclusión

En resumen, este trabajo ilustra cómo un enfoque enfocado para construir un conjunto de datos de calidad puede mejorar sustancialmente el rendimiento de los modelos de lenguaje en finanzas. Al seleccionar cuidadosamente las fuentes, simular diálogos, revisar el contenido con expertos y expandir el conjunto de datos, creamos un recurso que ayuda significativamente a los modelos a responder preguntas financieras con precisión.

Los hallazgos sugieren que tanto la cantidad como la calidad de los datos son importantes para el rendimiento del modelo. Nuestro enfoque estructurado aseguró que el conjunto de datos fuera relevante y de alta calidad, llevando a mejores resultados de ajuste.

Incluso con las mejoras observadas, todavía hay espacio para más desarrollo. El trabajo futuro debería explorar maneras de incluir diálogos financieros más diversos y complejos y refinar los métodos de ajuste para adaptarse mejor a las especificidades del dominio financiero. Este estudio abre nuevos caminos sobre cómo se pueden utilizar mejor los modelos de IA en servicios financieros, convirtiéndolos en herramientas más valiosas en la industria.