Simple Science

Scienza all'avanguardia spiegata semplicemente

# Informatica# Intelligenza artificiale

Trasformare l'analisi del feedback del trasporto con MetRoBERTa

MetRoBERTa migliora il modo in cui le agenzie di trasporto analizzano il feedback dei clienti per servizi migliori.

― 7 leggere min


Feedback sul TransitoFeedback sul TransitoReinventatotrasporto.feedback dei clienti per le agenzie diMetRoBERTa rivoluziona l'analisi del
Indice

Le agenzie di trasporto pubblico raccolgono un sacco di dati sulle esperienze dei Clienti attraverso vari canali come sondaggi, sistemi di Feedback online e social media. Questo feedback è fondamentale per capire come migliorare i servizi e riconquistare i passeggeri dopo interruzioni come quella della pandemia. Tuttavia, analizzare questo feedback può essere complicato a causa della sua natura non strutturata. Molti commenti sono aperti, rendendo difficile categorizzarli e ottenere informazioni chiare.

La Necessità di Strumenti di Analisi Migliori

Tradizionalmente, i team di servizio clienti delle agenzie di trasporto esaminerebbero commenti individuali e li risolverebbero uno per uno. Con l'aumento dell'uso dei social media, specialmente piattaforme come Twitter, è necessario adattarsi e analizzare queste fonti di feedback più informali. Dato che questo feedback è spesso non strutturato, crea sfide per le agenzie che cercano di identificare modelli e tendenze.

Gli strumenti standard per analizzare il testo potrebbero non essere efficaci per questioni specifiche dei trasporti. Il feedback può coprire una vasta gamma di argomenti e mescolare tutto insieme può nascondere differenze importanti. Ad esempio, un'analisi generale dei commenti che semplicemente conta feedback positivi o negativi potrebbe non riflettere accuratamente le esperienze dei passeggeri.

Sviluppare un Modello di Linguaggio Specifico per il Trasporto

Per affrontare questo problema, i ricercatori hanno sviluppato un modello specializzato chiamato MetRoBERTa. Questo modello è progettato per analizzare feedback specifico sui temi dei trasporti. Addestrando il modello su sei anni di dati dell'Autorità di Trasporto del Grande Area di Washington (WMATA), l'obiettivo era classificare il feedback aperto in argomenti pertinenti ai trasporti.

Per prima cosa, i ricercatori hanno creato un dataset di addestramento che individuava 11 argomenti chiave nel feedback dei clienti. Questi argomenti sono stati derivati combinando vari commenti di feedback nel corso degli anni. Con questo dataset, hanno addestrato MetRoBERTa per riconoscere e classificare accuratamente i diversi tipi di feedback.

Confrontare MetRoBERTa con Metodi Tradizionali

MetRoBERTa è stato poi testato contro metodi di analisi tradizionali che si basano su parole chiave e categorizzazioni generali. Le prestazioni di MetRoBERTa sono state significativamente migliori, raggiungendo un'accuratezza di circa il 90%. Questa accuratezza significa che può classificare correttamente il tipo di feedback in modo molto più efficace rispetto ai modelli più vecchi.

I metodi tradizionali spesso hanno problemi con il contesto, il che significa che potrebbero interpretare erroneamente commenti che, a prima vista, usano parole simili ma significano cose diverse. Ad esempio, un commento sulla sicurezza potrebbe essere legato a crimine o molestia, ma i sistemi basati su parole chiave potrebbero classificarlo in modo errato. MetRoBERTa, invece, è progettato per capire il contesto in cui vengono usate le parole, portando a classificazioni più accurate.

Aggiungere Struttura al Feedback Aperto

Uno dei principali vantaggi dell'uso di MetRoBERTa è la capacità di aggiungere struttura alla natura spesso caotica del feedback aperto. Categorizzando e contestualizzando queste informazioni, le agenzie di trasporto possono capire meglio come i clienti si sentono riguardo a diversi aspetti del loro servizio. Ad esempio, analizzando tweet e feedback CRM contemporaneamente, le agenzie possono ottenere un quadro più chiaro del sentimento dei clienti su vari argomenti.

Comprendere le Fonti di Feedback dei Clienti

Applicando MetRoBERTa, le agenzie possono analizzare feedback sia dai sistemi CRM che dai social media. Questo approccio consente loro di confrontare come il feedback differisce tra processi di reclamo più formali e commenti informali online. Spesso, la natura del feedback varia significativamente tra questi due canali.

Ad esempio, i tweet potrebbero mostrare Sentimenti più neutrali o positivi rispetto al feedback CRM, che tende ad essere più negativo. Questa differenza può essere attribuita alla facilità di twittare rispetto allo sforzo necessario per presentare un reclamo formale.

Risultati Chiave dall'Analisi del Feedback

Analizzare il feedback sia dai sistemi CRM che da Twitter può rivelare informazioni preziose. Ad esempio, utilizzando il modello MetRoBERTa, le agenzie potrebbero scoprire che la maggior parte dei commenti positivi nel feedback CRM sono legati alle interazioni con il servizio clienti. Al contrario, altri argomenti come pulizia o fornitura di informazioni potrebbero essere affrontati più frequentemente su Twitter.

Queste informazioni consentono alle agenzie di capire dove stanno andando bene e dove devono migliorare, così come come il feedback dei clienti può differire a seconda del tipo di servizio (es. autobus vs. ferrovia).

Generare Metriche di Prestazione

Un altro vantaggio dell'analisi strutturata del feedback offerta da MetRoBERTa è la possibilità di generare metriche di prestazione. Le agenzie possono tenere traccia dei reclami per milione di passeggeri e normalizzare i dati per tenere conto delle variazioni nel numero di passeggeri. Questo offre una visione più chiara del sentimento dei clienti nel tempo e può aiutare le agenzie a identificare tendenze legate a cambiamenti specifici nei servizi.

Ad esempio, se viene implementata una nuova politica tariffaria, analizzare il feedback può mostrare se il sentimento dei clienti è migliorato o diminuito nelle settimane successive al cambiamento. Questi dati sono inestimabili per prendere decisioni informate su future politiche.

Uno Sguardo al Feedback nel Tempo

Utilizzare un quadro coerente come MetRoBERTa consente alle agenzie di trasporto di condurre studi longitudinali sul feedback dei clienti. Analizzando le tendenze nel tempo, le agenzie possono identificare modelli legati a cambiamenti operativi o incidenti. Ad esempio, se ci fossero stati reclami sulla pulizia degli autobus dopo un'iniziativa di pulizia profonda, le agenzie potrebbero monitorare come sono cambiati i sentimenti nelle settimane successive.

Osservando le tendenze a lungo termine, le agenzie possono anche prevedere meglio le reazioni future dei clienti a cambiamenti o nuovi programmi. Questo può portare a misure più proattive che potrebbero migliorare l'esperienza dei clienti.

Sfide e Direzioni Future

Sebbene MetRoBERTa mostri grandi promesse, ci sono sfide da affrontare per sfruttare al massimo questa tecnologia. Un problema è la necessità di un addestramento continuo con dati di feedback freschi per mantenere l'accuratezza. Con l'evoluzione del linguaggio e delle aspettative dei clienti, sarà essenziale aggiornare frequentemente il modello.

Un'altra sfida è affrontare la misclassificazione del feedback. Anche se il modello generalmente funziona bene, ci possono essere casi in cui assegna argomenti in modo errato. Lavori futuri si concentreranno sul miglioramento di come vengono categorizzati gli argomenti per minimizzare questo problema e migliorare l'accuratezza del modello.

Applicazioni più Ample del Modello

La metodologia sviluppata attraverso questa ricerca può essere applicata a varie altre forme di feedback aperto, non solo da parte delle agenzie di trasporto. Altri settori potrebbero beneficiare di strumenti simili che offrono un modo strutturato per analizzare il sentimento dei clienti, sia nell'ospitalità, nel retail o nei settori dei servizi.

Sfruttando grandi dataset e modelli linguistici avanzati come MetRoBERTa, le aziende possono ottenere informazioni più profonde sulle esperienze dei clienti attraverso diverse piattaforme. Questo aiuta a informare le decisioni operative e migliorare la soddisfazione complessiva dei clienti.

Conclusione

MetRoBERTa rappresenta un avanzamento significativo nel modo in cui le agenzie di trasporto pubblico possono analizzare il feedback dei clienti. Trasformando il testo non strutturato in informazioni strutturate e azionabili, le agenzie possono capire meglio le esperienze dei passeggeri e prendere decisioni informate per migliorare il servizio.

L'implementazione di successo di questo modello può aprire la strada a relazioni migliori con i clienti e soddisfazione nei sistemi di trasporto pubblico, portando infine a un aumento dei passeggeri mentre le agenzie si adattano per soddisfare le esigenze e i desideri dei loro clienti. Lo sviluppo e il perfezionamento continui di MetRoBERTa e modelli simili aiuteranno a garantire che il trasporto pubblico rimanga reattivo alle voci dei suoi passeggeri.

Fonte originale

Titolo: MetRoBERTa: Leveraging Traditional Customer Relationship Management Data to Develop a Transit-Topic-Aware Language Model

Estratto: Transit riders' feedback provided in ridership surveys, customer relationship management (CRM) channels, and in more recent times, through social media is key for transit agencies to better gauge the efficacy of their services and initiatives. Getting a holistic understanding of riders' experience through the feedback shared in those instruments is often challenging, mostly due to the open-ended, unstructured nature of text feedback. In this paper, we propose leveraging traditional transit CRM feedback to develop and deploy a transit-topic-aware large language model (LLM) capable of classifying open-ended text feedback to relevant transit-specific topics. First, we utilize semi-supervised learning to engineer a training dataset of 11 broad transit topics detected in a corpus of 6 years of customer feedback provided to the Washington Metropolitan Area Transit Authority (WMATA). We then use this dataset to train and thoroughly evaluate a language model based on the RoBERTa architecture. We compare our LLM, MetRoBERTa, to classical machine learning approaches utilizing keyword-based and lexicon representations. Our model outperforms those methods across all evaluation metrics, providing an average topic classification accuracy of 90%. Finally, we provide a value proposition of this work demonstrating how the language model, alongside additional text processing tools, can be applied to add structure to open-ended text sources of feedback like Twitter. The framework and results we present provide a pathway for an automated, generalizable approach for ingesting, visualizing, and reporting transit riders' feedback at scale, enabling agencies to better understand and improve customer experience.

Autori: Michael Leong, Awad Abdelhalim, Jude Ha, Dianne Patterson, Gabriel L. Pincus, Anthony B. Harris, Michael Eichler, Jinhua Zhao

Ultimo aggiornamento: 2023-08-09 00:00:00

Lingua: English

URL di origine: https://arxiv.org/abs/2308.05012

Fonte PDF: https://arxiv.org/pdf/2308.05012

Licenza: https://creativecommons.org/licenses/by/4.0/

Modifiche: Questa sintesi è stata creata con l'assistenza di AI e potrebbe presentare delle imprecisioni. Per informazioni accurate, consultare i documenti originali collegati qui.

Si ringrazia arxiv per l'utilizzo della sua interoperabilità ad accesso aperto.

Altro dagli autori

Articoli simili