Fortschritte in der Betriebsforschung mit Open-Source-LLMs

Grosse Sprachmodelle (LLMs) werden zunehmend wichtige Werkzeuge zur Lösung komplexer Probleme in der Betriebsforschung (OR). Sie helfen, den Prozess der Erstellung von Optimierungsmodellen zu automatisieren. Viele aktuelle Methoden basieren jedoch auf proprietären Modellen und speziellen Fragestellungen, was Bedenken hinsichtlich des Datenschutzes aufwerfen kann. Das kann die Nutzung dieser Modelle in der realen Industrie einschränken.

Um diese Probleme zu adressieren, schlagen wir vor, Open-Source-LLMs speziell für Optimierungsmodellierung zu trainieren. Wir haben vier zentrale Bedürfnisse für die Trainingsdaten dieser Modelle identifiziert und einen Prozess namens OR-Instruct entwickelt. Dieser Prozess hilft, synthetische Daten zu erstellen, die diesen Bedürfnissen entsprechen. Ausserdem präsentieren wir das IndustryOR-Benchmark – das erste Benchmark zur Bewertung von LLMs bei realen OR-Problemen. Durch die Anwendung der OR-Instruct-Daten auf verschiedene Open-Source-LLMs haben wir deren Fähigkeit zur Handhabung von Optimierungsaufgaben erheblich verbessert. Unser bestes Modell hat ausgezeichnete Ergebnisse bei wichtigen Benchmarks gezeigt.

#Die Rolle von grossen Sprachmodellen in der Betriebsforschung

LLMs sind effektiv bei der Automatisierung von Optimierungsmodellen, was in Bereichen wie Logistik, Gesundheitswesen und Finanzen entscheidend ist. Diese Modelle können Problembeschreibungen interpretieren und mathematische Modelle und Code genau und schnell generieren. Durch die Integration von LLMs in verschiedene Branchen können Unternehmen ihre Entscheidungsprozesse verbessern. Das ist besonders wichtig in schnelllebigen Umgebungen, wo sich die Bedingungen häufig ändern, da traditionelle Methoden oft Schwierigkeiten haben, Schritt zu halten.

Da sich LLMs weiterentwickeln, wird erwartet, dass die Verbindung zwischen Optimierungsmodellierung und diesen Modellen signifikante Fortschritte in den Industriepraxis fördert.

#Herausforderungen mit aktuellen Ansätzen

Die Forschung hat sich oft darauf konzentriert, vortrainierte Sprachmodelle (PLMs) zur Formulierung mathematischer Modelle für Optimierungsprobleme zu verwenden. Frühere Methoden, wie NL4OPT, teilen die Aufgabe in mehrere Teile auf, wie zum Beispiel das Identifizieren semantischer Entitäten, bevor mathematische Modelle erstellt werden. Während dieser Ansatz effektiv sein kann, führt er oft zu Fehlern und hat aufgrund der kleineren Modelle eine begrenzte Generalisierbarkeit.

Mit dem Aufkommen von LLMs wie ChatGPT können Forscher jetzt vollständige Lösungen – einschliesslich Programme – generieren, indem sie diese Modelle direkt ansprechen. Einige Prompting-Techniken beinhalten die Zusammenarbeit mehrerer Agenten, die gemeinsam daran arbeiten, sowohl die mathematischen Modelle als auch die Programme zu verfeinern. Diese Techniken sind jedoch grösstenteils auf proprietäre LLMs angewiesen, die oft den Austausch sensibler Daten erfordern. Diese Abhängigkeit wirft erhebliche Datenschutzprobleme für Unternehmen auf, die ihre Daten schützen müssen.

#Unser vorgeschlagener Ansatz: Open-Source-LLMs für Optimierung

Um die Einschränkungen der aktuellen Methoden zu überwinden, schlagen wir vor, Open-Source-LLMs für die Optimierungsmodellierung zu trainieren. Um Effektivität und Zuverlässigkeit sicherzustellen, haben wir vier entscheidende Anforderungen identifiziert, die der Trainingsdatensatz erfüllen muss.

1. Vielfältige Abdeckung: Der Datensatz sollte eine Vielzahl von Szenarien, Problemtypen und Schwierigkeitsgraden enthalten, um ein robustes Modell aufzubauen.
2. Anpassungsfähigkeit: Der Datensatz muss Änderungen bei Zielen und Einschränkungen aufgrund sich ändernder Geschäftsziele oder Marktbedingungen widerspiegeln.
3. Linguistische Vielfalt: Verschiedene Arten der Beschreibung ähnlicher Probleme sollten enthalten sein, um das Modell auf die Kommunikation in der realen Welt vorzubereiten.
4. Modellierungstechniken: Der Datensatz sollte verschiedene Methoden zur Lösung desselben Problems zeigen, damit das Modell verschiedene Ansätze lernen kann.

Allerdings ist es eine Herausforderung, Daten zu sammeln, die all diese Kriterien erfüllen, da ein Grossteil davon nur in privaten Unternehmensumgebungen existiert.

#Einführung von OR-Instruct

Um die Herausforderung bei der Datensammlung anzugehen, haben wir OR-Instruct entwickelt – eine halbautomatisierte Methode zur Generierung synthetischer Daten, die auf spezifische Bedürfnisse zugeschnitten sind. Dieser Prozess beginnt mit realen Fällen aus der Industrie und erweitert den Datensatz durch iterative Methoden.

Zunächst haben wir eine Reihe von Ausgangsfällen gesammelt und GPT-4 verwendet, um die Szenarien und Fragetypen zu erweitern, was die Grösse des Datensatzes erheblich erhöht hat. Obwohl diese Erweiterung einige Anforderungen erfüllte, fehlte es noch an ausreichender Vielfalt in Bezug auf Komplexität und Anpassungsfähigkeit.

Um die Lücken zu füllen, führten wir Augmentierungen durch, wie das Ändern von Zielen und Einschränkungen, das Umformulieren von Fragen und die Einführung mehrerer Modellierungstechniken. Dieser Ansatz zielt darauf ab, eine vielfältigere Palette von Problemlösungsbeispielen zu schaffen. Um die Qualität sicherzustellen, wenden wir Filtertechniken an, um Daten geringer Qualität zu entfernen, was zu einem verfeinerten Datensatz führt, der bereit für das Training ist.

#Das IndustryOR-Benchmark

Um die Effektivität unserer OR-Instruct-Methode zu bewerten, haben wir das IndustryOR-Benchmark erstellt. Dieses Benchmark verwendet Daten aus verschiedenen Branchen und umfasst mehrere Fragetypen und Schwierigkeitsgrade.

Wir haben die OR-Instruct-Daten verwendet, um mehrere Open-Source-LLMs mit etwa 7 Milliarden Parametern zu trainieren. Die resultierenden Modelle, die als ORLMs bezeichnet werden, zeigten eine deutliche Verbesserung ihrer Optimierungsfähigkeiten. Unser bestes Modell erzielte erstklassige Ergebnisse bei mehreren wichtigen Benchmarks und übertraf frühere Methoden.

#Wichtige Beiträge und Erkenntnisse

Unsere Forschung leistet einen bedeutenden Beitrag zur Betriebsforschung und den LLMs:

1. Wir sind die Ersten, die Open-Source-LLMs speziell für die Optimierungsmodellierung in realen Szenarien trainiert haben.
2. Wir haben vier kritische Anforderungen für den Trainingsdatensatz festgelegt und OR-Instruct entwickelt, um effizient passende synthetische Daten zu generieren.
3. Wir haben das IndustryOR-Benchmark für die Bewertung von LLMs bei realen Optimierungsaufgaben eingeführt.
4. Unser bestes ORLM hat bestehende Modelle in verschiedenen Benchmarks übertroffen.

#Definition der Optimierungsmodellierung

Optimierungsmodellierung in der Betriebsforschung beinhaltet, ein in natürlicher Sprache beschriebenes reales Problem in eine mathematische Form zu übersetzen. Dieser Prozess umfasst auch die Umwandlung dieses mathematischen Modells in ein Programm, das von einem Solver ausgeführt werden kann. Das ultimative Ziel ist es, die beste Lösung unter den machbaren Optionen zu finden und dabei bestimmte Einschränkungen einzuhalten.

Ein Beispiel für eine Aufgabe der Optimierungsmodellierung könnte darin bestehen, dass ein Unternehmen Transportmöglichkeiten für Sendungen auswählt. Das Unternehmen muss Kosten, Kapazitäten und Exklusivitätsbeschränkungen berücksichtigen. Ein mathematisches Modell würde Variablen definieren, die die ausgewählten Transportmethoden repräsentieren, und Ziele sowie Einschränkungen in Bezug auf Kosten und Kapazitäten festlegen.

#Anforderungen für das Training von LLMs

Für ein effektives Training von Open-Source-LLMs in der Optimierungsmodellierung müssen diese Modelle relevant, effizient und anpassungsfähig an die realen Bedürfnisse sein. Die kritischen Anforderungen für den Trainingsdatensatz umfassen:

• Umfassende Abdeckung: Der Datensatz sollte vielfältige Szenarien, Fragetypen und unterschiedliche Schwierigkeitsgrade umfassen, um eine breite Anwendbarkeit zu gewährleisten.
• Umweltanpassungsfähigkeit: Der Datensatz muss reale Veränderungen widerspiegeln, die Ziele und Einschränkungen beeinflussen könnten.
• Linguistische Vielfalt: Die unterschiedlichen Arten, wie Probleme beschrieben werden können, müssen erfasst werden, um das Verständnis des Modells zu verbessern.
• Lösungsvielfalt: Der Datensatz sollte mehrere Ansätze zur Lösung ähnlicher Probleme enthalten, um die Lernfähigkeit des Modells zu verbessern.

#Der Daten Generierungsprozess

OR-Instruct besteht aus zwei Hauptstrategien: Expansion und Augmentation.

1. Expansion: Diese Strategie baut einen grösseren Datensatz auf, indem neue Beispiele basierend auf bestehenden Ausgangsfällen generiert werden. GPT-4 unterstützt bei dieser Aufgabe und produziert eine breite Palette von Szenarien und Fragen.
2. Augmentation: Nachdem ein erweiterter Datensatz gesammelt wurde, verbessern wir ihn, indem wir Ziele und Einschränkungen ändern, Fragen für sprachliche Genauigkeit umformulieren und verschiedene Modellierungstechniken integrieren.

Jede dieser Strategien wird iterativ ausgeführt, was eine verfeinerte Sammlung von hochwertigen Trainingsdaten ermöglicht.

#Bewertung von OR-Instruct und IndustryOR

Um unsere vorgeschlagenen Methoden zu bewerten, haben wir das IndustryOR-Benchmark verwendet, das reale Fälle aus verschiedenen Branchen umfasst. Dieses Benchmark wurde entwickelt, um die Modelle mit unterschiedlichen Fragetypen und variierenden Schwierigkeitsgraden zu testen.

Wir haben die aus OR-Instruct generierten Daten auf mehrere Open-Source-LLMs angewendet, was zu erheblichen Verbesserungen in ihren Fähigkeiten zur Optimierungsmodellierung führte. Die Ergebnisse zeigten, dass unser bestes ORLM komplexe OR-Probleme effektiv lösen konnte, was die Nützlichkeit unserer Ansätze bestätigt.

Zusammenfassend legt unsere Arbeit das Fundament dafür, wie grosse Sprachmodelle Aufgaben der Optimierung in der Betriebsforschung angehen können, und hebt die Vorteile von Open-Source-Lösungen und robusten Trainingsmethoden hervor. In Zukunft planen wir, unsere Bemühungen zur Ausbildung von Open-Source-Agenten auszubauen und so zu Fortschritten in diesem Bereich beizutragen.

#Die Wichtigkeit, Vorurteile anzugehen

Während sich unsere Studie darauf konzentrierte, die Leistung von LLMs in der Optimierung zu verbessern, ist es wichtig, potenzielle Vorurteile in diesen Modellen zu erkennen und zu mindern. Die Ausrichtung von Modellen an gesellschaftlichen Werten erfordert fortlaufende Bewertungen, die sowohl technische Effektivität als auch ethische Überlegungen umfassen.

#Fazit

Zusammenfassend adressiert das Training von Open-Source-LLMs für die Optimierungsmodellierung die Einschränkungen aktueller Ansätze und erfüllt die Bedürfnisse realer Anwendungen. Mit der Einführung von OR-Instruct und dem IndustryOR-Benchmark erleichtern wir eine tiefere Integration von LLMs in Entscheidungsprozesse in verschiedenen Branchen, was den Weg für zukünftige Fortschritte und eine breite Akzeptanz ebnet.