Avanzando la Investigación de Operaciones con LLMs de Código Abierto

Los modelos de lenguaje grandes (LLMs) se están convirtiendo en herramientas importantes para resolver problemas complejos en la investigación de operaciones (OR). Ayudan a automatizar el proceso de creación de modelos de optimización. Sin embargo, muchos métodos actuales dependen de modelos propietarios y formas específicas de hacer preguntas, lo que puede generar preocupaciones sobre la privacidad de los datos. Esto puede limitar el uso de estos modelos en industrias del mundo real.

Para abordar estos problemas, sugerimos entrenar LLMs de Código abierto específicamente para modelado de optimización. Hemos identificado cuatro necesidades clave para los datos de entrenamiento de estos modelos y desarrollado un proceso llamado OR-Instruct. Este proceso ayuda a crear datos sintéticos que cumplen con estas necesidades. También presentamos el benchmark IndustryOR, el primer benchmark para evaluar LLMs en problemas reales de OR. Al aplicar los datos de OR-Instruct a varios LLMs de código abierto, hemos mejorado enormemente su capacidad para manejar tareas de optimización. Nuestro modelo con mejor rendimiento ha mostrado resultados excelentes en los principales benchmarks.

#El Papel de los Modelos de Lenguaje Grandes en la Investigación de Operaciones

Los LLMs son efectivos en la automatización del modelado de optimización, que es crítico en áreas como logística, salud y finanzas. Estos modelos pueden interpretar descripciones de problemas y generar modelos matemáticos y código con precisión y rapidez. Al integrar LLMs en diversas industrias, las empresas pueden mejorar sus procesos de toma de decisiones. Esto es especialmente importante en entornos de rápido movimiento donde las condiciones cambian con frecuencia, ya que los métodos tradicionales pueden tener dificultades para mantenerse al día.

A medida que los LLMs continúan desarrollándose, se espera que la conexión entre el modelado de optimización y estos modelos fomente avances significativos en las prácticas de la industria.

#Desafíos con los Enfoques Actuales

La investigación se ha centrado a menudo en el uso de modelos de lenguaje preentrenados (PLMs) para formular modelos matemáticos para problemas de optimización. Los métodos pasados, como NL4OPT, dividen la tarea en varias partes, como identificar entidades semánticas antes de crear modelos matemáticos. Si bien este enfoque puede ser efectivo, a menudo conduce a errores y tiene una generalización limitada debido al menor tamaño de los modelos.

Con la llegada de LLMs como ChatGPT, los investigadores ahora pueden generar soluciones completas, incluyendo programas, al impulsar estos modelos directamente. Algunas técnicas de impulso implican la colaboración entre múltiples agentes, trabajando juntos para refinar tanto los modelos matemáticos como los programas. Sin embargo, estas técnicas dependen principalmente de LLMs propietarios, que a menudo requieren compartir datos sensibles. Esta dependencia plantea importantes problemas de privacidad para las empresas que deben proteger sus datos.

#Nuestra Solución Propuesta: LLMs de Código Abierto para Optimización

Para superar las limitaciones de los métodos actuales, proponemos entrenar LLMs de código abierto para el modelado de optimización. Para asegurar efectividad y fiabilidad, hemos identificado cuatro requisitos cruciales que debe cumplir el conjunto de datos de entrenamiento.

1. Cobertura Diversa: El conjunto de datos debe incluir una variedad de escenarios, tipos de problemas y niveles de complejidad para construir un modelo robusto.
2. Adaptabilidad: El conjunto de datos debe reflejar cambios en los objetivos y restricciones debido a cambios en las metas empresariales o condiciones del mercado.
3. Variedad Lingüística: Se deben incluir diversas formas de describir problemas similares para preparar al modelo para la comunicación en el mundo real.
4. Técnicas de Modelado: El conjunto de datos debe mostrar diferentes métodos para resolver el mismo problema, permitiendo que el modelo aprenda varios enfoques.

Sin embargo, reunir datos que cumplan con todos estos criterios es un desafío, ya que gran parte de ellos existe solo en entornos empresariales privados.

#Presentando OR-Instruct

Para abordar el desafío de la recopilación de datos, desarrollamos OR-Instruct, un método semiautomático para generar datos sintéticos adaptados a necesidades específicas. Este proceso comienza con casos reales de la industria y expande el conjunto de datos mediante métodos iterativos.

Inicialmente, recopilamos un conjunto de casos semilla y usamos GPT-4 para ampliar los escenarios y tipos de preguntas, aumentando significativamente el tamaño del conjunto de datos. Aunque esta expansión abordó algunos requisitos, aún carecía de suficiente variedad en términos de complejidad y adaptabilidad.

Para llenar los vacíos, implementamos aumentaciones como alterar objetivos y restricciones, reformular preguntas e introducir múltiples técnicas de modelado. Este enfoque busca crear una gama más diversa de ejemplos de problema-solución. Para asegurar la calidad, aplicamos técnicas de filtrado para eliminar datos de baja calidad, resultando en un conjunto de datos refinado listo para el entrenamiento.

#El Benchmark IndustryOR

Para evaluar la efectividad de nuestro método OR-Instruct, creamos el benchmark IndustryOR. Este benchmark utiliza datos de diversas industrias e incluye múltiples tipos de preguntas y niveles de dificultad.

Aplicamos los datos de OR-Instruct para entrenar varios LLMs de código abierto de alrededor de 7 mil millones de parámetros. Los modelos resultantes, denominados ORLMs, mostraron una mejora notable en sus capacidades de optimización. Nuestro modelo con mejor rendimiento logró resultados de vanguardia en varios benchmarks clave, superando métodos anteriores.

#Contribuciones y Hallazgos Clave

Nuestra investigación contribuye significativamente al campo de la investigación de operaciones y los LLMs:

1. Somos los primeros en entrenar LLMs de código abierto específicamente para modelado de optimización en escenarios del mundo real.
2. Establecimos cuatro requisitos críticos para el conjunto de datos de entrenamiento y diseñamos OR-Instruct para generar eficientemente datos sintéticos adecuados.
3. Introdujimos el benchmark IndustryOR para evaluar LLMs en tareas de optimización del mundo real.
4. Nuestro ORLM con mejor rendimiento ha superado modelos existentes en varios benchmarks.

#Definiendo el Modelado de Optimización

El modelado de optimización en investigación de operaciones implica tomar un problema del mundo real descrito en lenguaje natural y traducirlo a una forma matemática. Este proceso también incluye convertir ese modelo matemático en un programa que puede ser ejecutado por un solucionador. El objetivo final es encontrar la mejor solución entre opciones viables mientras se cumplen restricciones específicas.

Un ejemplo de una tarea de modelado de optimización podría involucrar a una empresa seleccionando opciones de transporte para envíos. La empresa debe considerar costos, capacidades y restricciones de exclusividad. Un modelo matemático definiría variables que representan los métodos de transporte seleccionados y establecería objetivos y restricciones relacionadas con costos y capacidades.

#Deseos para Entrenar LLMs

Para el entrenamiento efectivo de LLMs de código abierto en modelado de optimización, estos modelos deben ser relevantes, eficientes y adaptables a las necesidades del mundo real. Los requisitos críticos para el conjunto de datos de entrenamiento incluyen:

• Cobertura Integral: El conjunto de datos debe abarcar diversos escenarios, tipos de preguntas y niveles de dificultad para asegurar una amplia aplicabilidad.
• Adaptabilidad Ambiental: El conjunto de datos debe reflejar cambios en el mundo real que puedan afectar los objetivos y restricciones.
• Diversidad Lingüística: Las diferentes maneras en que se pueden describir los problemas necesitan ser capturadas para mejorar la comprensión del modelo.
• Variabilidad en las Soluciones: El conjunto de datos debe incluir múltiples enfoques para resolver problemas similares para mejorar las capacidades de aprendizaje del modelo.

#El Proceso de Generación de Datos

OR-Instruct consiste en dos estrategias principales: expansión y aumentación.

1. Expansión: Esta estrategia construye un conjunto de datos más grande generando nuevos ejemplos basados en casos semilla existentes. GPT-4 ayuda en esta tarea, produciendo una amplia variedad de escenarios y preguntas.
2. Aumentación: Después de reunir un conjunto de datos expandido, lo mejoramos modificando objetivos y restricciones, reformulando preguntas para mayor precisión lingüística e incorporando diversas técnicas de modelado.

Cada una de estas estrategias se ejecuta de manera iterativa, permitiendo una colección más refinada de datos de entrenamiento de alta calidad.

#Evaluando OR-Instruct y IndustryOR

Para evaluar nuestros métodos propuestos, empleamos el benchmark IndustryOR, que presenta casos del mundo real de diversas industrias. Este benchmark está diseñado para probar los modelos en diversos tipos de preguntas y niveles de complejidad.

Aplicamos los datos generados a partir de OR-Instruct a múltiples LLMs de código abierto, revelando mejoras significativas en sus habilidades de modelado de optimización. Los resultados demostraron que nuestro ORLM de mejor rendimiento pudo resolver eficazmente problemas complejos de OR, confirmando la utilidad de nuestros enfoques.

En resumen, nuestro trabajo sienta las bases para mejorar cómo los modelos de lenguaje grandes pueden abordar tareas de optimización en investigación de operaciones, destacando las ventajas de soluciones de código abierto y metodologías de entrenamiento robustas. En el futuro, aspiramos a ampliar nuestros esfuerzos para entrenar agentes de código abierto, contribuyendo aún más a los avances en este campo.

#La Importancia de Abordar Sesgos

Mientras que nuestro estudio se centró en mejorar el rendimiento de los LLMs en optimización, es crucial reconocer y mitigar los sesgos potenciales en estos modelos. Alinear modelos con valores sociales requiere evaluaciones continuas que abarquen tanto la efectividad técnica como las consideraciones éticas.

#Conclusión

En conclusión, entrenar LLMs de código abierto para el modelado de optimización aborda limitaciones en los enfoques actuales mientras satisface las necesidades de aplicaciones del mundo real. Con la introducción de OR-Instruct y el benchmark IndustryOR, facilitamos una integración más profunda de los LLMs en los procesos de toma de decisiones en diversas industrias, allanando el camino para avances futuros y una adopción generalizada.