Innovative Daten-Synthese für Sentiment-Analyse

Hongling Xu, Yice Zhang, Qianlong Wang, Ruifeng Xu
Harbin Institute of Technology, Shenzhen, China
Peng Cheng Laboratory, Shenzhen, China
Guangdong Provincial Key Laboratory of Novel Security Intelligence Technologies
Emails: [email protected], [email protected]

#Zusammenfassung

Grosse Sprachmodelle (LLMs) können helfen, Datenmangel in Situationen mit wenigen Ressourcen, wie zum Beispiel bei der Few-Shot aspektbasierten Sentimentanalyse (ABSA), zu bekämpfen. Frühere Methoden, die LLMs zur Datenerweiterung genutzt haben, fehlten oft an Vielfalt und Relevanz. Wir präsentieren DS-ABSA, das zwei Ansätze verwendet: punktgesteuerte und instanzgesteuerte Datensynthese. Dieses Framework generiert effektiv vielfältige und hochwertige ABSA-Proben in ressourcenarmen Situationen, während ein Modul zur Etikettenverfeinerung die Qualität der erzeugten Etiketten verbessert. Unsere Experimente zeigen, dass DS-ABSA andere Methoden bei der Few-Shot ABSA deutlich übertrifft und somit Potenzial für praktische Anwendungen hat.

#Einführung

Aspektbasierte Sentimentanalyse (ABSA) identifiziert die Stimmung gegenüber bestimmten Aspekten in Nutzerbewertungen. Zum Beispiel ergibt die Bewertung "Die Akkulaufzeit ist grossartig, aber die Bildschirmauflösung enttäuschend" die Analyse (Akkulaufzeit, positiv) und (Bildschirmauflösung, negativ). Traditionelle Methoden basieren auf grossen Mengen an gekennzeichneten Daten, deren Sammlung zeitaufwändig ist. Das hat zur Erforschung von Methoden geführt, die für ressourcenarme Szenarien geeignet sind. Aktuelle Strategien fallen in drei Kategorien: Datenerweiterung, In-Context-Learning und Pre-Training-Techniken. Jede hat ihre eigenen Einschränkungen, wie z.B. mangelnde Vielfalt in den erweiterten Daten oder die Notwendigkeit umfangreicher externer Datensätze.

#Vorgeschlagene Methode: DS-ABSA

Unser Dual-Stream-Datensynthese-Framework, DS-ABSA, kombiniert zwei verschiedene Strategien zur Datengenerierung. Die punktgesteuerte Strategie konzentriert sich auf die Generierung potenzieller ABSA-Attribute, während die instanzgesteuerte Strategie bestehende Proben modifiziert. Dieser Ansatz ermöglicht sowohl Vielfalt als auch Relevanz in den erzeugten Daten.

#Punktgesteuerte Datensynthese

Diese Methode beinhaltet das Brainstorming potenzieller Attribute für ABSA, wie Aspektkategorien und Meinungsbegriffe. LLMs helfen dabei, neue Bewertungen basierend auf diesen Attributen zu generieren. Wir legen Wert darauf, die Vielfalt in den erzeugten Proben zu wahren.

#Instanzgesteuerte Datensynthese

Diese Methode verwandelt bestehende Bewertungsproben, um neue zu erstellen. Sie verwendet Techniken wie Probenkombination und selektive Rekonstruktion, um sicherzustellen, dass die neuen Proben eine starke Ähnlichkeit mit den Originaldaten aufweisen und gleichzeitig Vielfalt bieten.

#Etikettenverfeinerung

Um Ungenauigkeiten bei den von LLM generierten Etiketten zu beheben, implementieren wir einen Prozess zur Etikettenverfeinerung. Dabei normalisieren wir die Etiketten und wenden einen rauschbehafteten Selbsttrainingsalgorithmus unter Verwendung einiger hochwertiger Proben an, um die Qualität der synthetischen Etiketten zu verbessern.

#Experimente

Wir validieren DS-ABSA an vier ABSA-Benchmark-Datensätzen in zwei Bereichen: Restaurants und Laptops. Unsere Ergebnisse zeigen, dass DS-ABSA bestehende Few-Shot-Methoden konstant übertrifft. Die Auswertung zeigt eine merkliche Verbesserung der F1-Werte im Vergleich zu anderen modernen Techniken, was die Effektivität unseres Ansatzes in ressourcenarmen Umgebungen bestätigt.

#Fazit

DS-ABSA bietet eine neuartige Lösung für die Few-Shot ABSA. Durch die effektive Nutzung der Dual-Stream-Synthese und eines robusten Prozesses zur Etikettenverfeinerung erzeugen wir hochwertige, vielfältige Proben, ohne zusätzliche Daten zu benötigen. Unsere Ergebnisse deuten darauf hin, dass dieses Framework ein wertvolles Asset für zukünftige Forschungen und Anwendungen in verschiedenen Bereichen sein kann. Wir erkennen einige Einschränkungen an, wie z.B. mögliche Vorurteile in LLMs und die Abhängigkeit von sorgfältiger Aufforderungsgestaltung. Diese zu adressieren, kann weitere Verbesserungen bieten.

#Anhänge

• Aufforderungen zur Datengenerierung: Detaillierte Aufforderungen, die zur Generierung synthetischer Daten verwendet wurden.
• Implementierungsdetails: Weitere Erklärungen zu unseren Methoden und Basismodellen.
• Zusätzliche Experimente: Zusätzliche Ergebnisse zur Unterstützung unserer Erkenntnisse.