Simple Science

Ciencia de vanguardia explicada de forma sencilla

# Informática# Inteligencia artificial

Transformando el Análisis de Feedback del Transporte con MetRoBERTa

MetRoBERTa mejora la forma en que las agencias de transporte analizan los comentarios de los clientes para ofrecer mejores servicios.

― 8 minilectura


Retroalimentación deRetroalimentación deTránsito Reimaginadaagencias de transporte.comentarios de los clientes para lasMetRoBERTa revoluciona el análisis de
Tabla de contenidos

Las agencias de transporte público recogen una gran cantidad de datos sobre las experiencias de los Clientes a través de varios canales como encuestas a clientes, sistemas de retroalimentación en línea y redes sociales. Esta retroalimentación es crucial para entender cómo mejorar los servicios y recuperar el tráfico después de interrupciones como la pandemia. Sin embargo, analizar esta retroalimentación puede ser complicado debido a su naturaleza no estructurada. Muchos Comentarios son abiertos, lo que hace difícil categorizarlos y obtener ideas claras.

La necesidad de mejores herramientas de análisis

Tradicionalmente, los equipos de servicio al cliente en las agencias de transporte revisaban comentarios individuales y los abordaban uno por uno. A medida que crece el uso de las redes sociales, especialmente plataformas como Twitter, hay una necesidad de adaptarse y analizar estas fuentes de retroalimentación más informales. Dado que esta retroalimentación es a menudo no estructurada, crea desafíos para las agencias que intentan identificar patrones y tendencias.

Las herramientas estándar para analizar texto pueden no ser efectivas para problemas específicos del transporte. La retroalimentación puede cubrir una amplia gama de temas, y agrupar todo puede oscurecer diferencias importantes. Por ejemplo, un análisis general de comentarios que simplemente cuenta la retroalimentación positiva o negativa podría no reflejar con precisión las experiencias de los pasajeros.

Desarrollando un modelo de lenguaje específico para el transporte

Para abordar este problema, los investigadores desarrollaron un modelo especializado llamado MetRoBERTa. Este modelo está diseñado para analizar retroalimentación específicamente relacionada con temas de transporte. Al entrenar el modelo con seis años de datos de la Autoridad de Transporte del Área Metropolitana de Washington (WMATA), el objetivo era clasificar la retroalimentación abierta en temas relevantes del transporte.

Primero, los investigadores crearon un conjunto de datos de entrenamiento que identificaba 11 temas clave en la retroalimentación de los clientes. Estos temas se derivaron de la combinación de varios comentarios a lo largo de varios años. Con este conjunto de datos, entrenaron a MetRoBERTa para reconocer y clasificar diferentes tipos de retroalimentación con precisión.

Comparando MetRoBERTa con métodos tradicionales

MetRoBERTa fue luego testado contra métodos de análisis tradicionales que dependen de palabras clave y categorizaciones generales. El rendimiento de MetRoBERTa fue significativamente mejor, logrando una precisión de alrededor del 90%. Esta precisión significa que podría clasificar correctamente el tipo de retroalimentación mucho más eficazmente que los modelos más antiguos.

Los métodos tradicionales a menudo luchan con el contexto, lo que significa que podrían malinterpretar comentarios que, a simple vista, usan palabras similares pero significan cosas diferentes. Por ejemplo, un comentario sobre seguridad podría estar relacionado con delitos o acoso, pero los sistemas basados en palabras clave podrían clasificarlo incorrectamente. Sin embargo, MetRoBERTa está diseñado para entender el contexto en el que se utilizan las palabras, lo que lleva a clasificaciones más precisas.

Agregando estructura a la retroalimentación abierta

Una de las principales ventajas de usar MetRoBERTa es la capacidad de agregar estructura a la naturaleza a menudo caótica de la retroalimentación abierta. Al categorizar y contextualizar esta información, las agencias de transporte pueden entender mejor cómo se sienten los clientes sobre diferentes aspectos de su servicio. Por ejemplo, al analizar tweets y retroalimentación de CRM simultáneamente, las agencias pueden obtener una imagen más clara del sentimiento del cliente en varios temas.

Entendiendo las fuentes de retroalimentación de los clientes

Al aplicar MetRoBERTa, las agencias pueden analizar la retroalimentación de sistemas CRM y redes sociales. Este enfoque les permite comparar cómo varía la retroalimentación entre procesos de queja más formales y los comentarios informales hechos en línea. A menudo, la naturaleza de la retroalimentación varía significativamente entre estos dos canales.

Por ejemplo, los tweets podrían mostrar Sentimientos más neutrales o positivos en comparación con la retroalimentación de CRM, que tiende a ser más negativa. Esta diferencia se puede atribuir a la facilidad de twittear en comparación con el esfuerzo involucrado en presentar una queja formal.

Hallazgos clave del análisis de retroalimentación

Analizar la retroalimentación de sistemas CRM y Twitter puede revelar información valiosa. Por ejemplo, utilizando el modelo MetRoBERTa, las agencias podrían encontrar que la mayoría de los comentarios positivos en la retroalimentación de CRM están relacionados con las interacciones de servicio al cliente. En contraste, otros temas como limpieza o provisión de información podrían abordarse con más frecuencia en Twitter.

Estos hallazgos permiten a las agencias entender dónde están funcionando bien y dónde necesitan mejorar, así como cómo la retroalimentación de los clientes puede diferir según el tipo de servicio (por ejemplo, bus vs. tren).

Generando métricas de rendimiento

Otro beneficio del análisis de retroalimentación estructurada que ofrece MetRoBERTa es la capacidad de generar métricas de rendimiento. Las agencias pueden rastrear quejas por millón de pasajeros y normalizar datos para tener en cuenta los cambios en el tráfico. Esto da una visión más clara del sentimiento del cliente a lo largo del tiempo y puede ayudar a las agencias a identificar tendencias relacionadas con cambios específicos en el servicio.

Por ejemplo, si se implementa una nueva política de tarifas, analizar la retroalimentación puede mostrar si el sentimiento del cliente mejoró o disminuyó en las semanas posteriores al cambio. Estos datos son invaluables para tomar decisiones informadas sobre políticas futuras.

Una mirada a la retroalimentación a lo largo del tiempo

Usar un marco consistente como MetRoBERTa permite a las agencias de transporte realizar estudios longitudinales de la retroalimentación de los clientes. Al analizar tendencias a lo largo del tiempo, las agencias pueden identificar patrones vinculados a cambios operativos o incidentes. Por ejemplo, si hubo quejas sobre la limpieza de los autobuses después de una iniciativa de limpieza profunda, las agencias podrían rastrear cómo cambiaron los sentimientos en las semanas siguientes.

Al observar tendencias a largo plazo, las agencias también pueden prever mejor las reacciones futuras de los clientes a cambios o nuevos programas. Esto puede llevar a medidas más proactivas que podrían mejorar las experiencias de los clientes.

Desafíos y direcciones futuras

Si bien MetRoBERTa muestra un gran potencial, hay desafíos por delante para aprovechar al máximo esta tecnología. Una preocupación es la necesidad de entrenamiento continuo con datos frescos de retroalimentación para mantener la precisión. A medida que el lenguaje y las expectativas de los clientes evolucionan, será esencial actualizar el modelo con frecuencia.

Otro desafío es lidiar con la clasificación errónea de la retroalimentación. Si bien el modelo generalmente funciona bien, puede haber instancias en las que asigne incorrectamente temas. El trabajo futuro se centrará en mejorar cómo se categorizan los temas para minimizar este problema y mejorar la precisión del modelo.

Aplicaciones más amplias del modelo

La metodología desarrollada a través de esta investigación puede aplicarse a otras formas de retroalimentación abierta, no solo de las agencias de transporte. Otros sectores podrían beneficiarse de herramientas similares que proporcionen una forma estructurada de analizar el sentimiento del cliente, ya sea en hospitalidad, retail o industrias de servicios.

Al aprovechar grandes conjuntos de datos y modelos de lenguaje avanzados como MetRoBERTa, las empresas pueden obtener ideas más profundas sobre las experiencias del cliente en diferentes plataformas. Esto ayuda a informar decisiones operativas y mejorar la satisfacción general del cliente.

Conclusión

MetRoBERTa representa un avance significativo en la forma en que las agencias de transporte público pueden analizar la retroalimentación de los clientes. Al convertir texto no estructurado en información estructurada y procesable, las agencias pueden entender mejor las experiencias de los pasajeros y tomar decisiones informadas para mejorar el servicio.

La implementación exitosa de este modelo puede allanar el camino para mejorar las relaciones y la satisfacción del cliente en los sistemas de transporte público, lo que finalmente llevará a un aumento en el tráfico a medida que las agencias se adapten para satisfacer las necesidades y deseos de sus clientes. El desarrollo y la refinación continuos de MetRoBERTa y modelos similares ayudarán a garantizar que el transporte público siga siendo receptivo a las voces de sus pasajeros.

Fuente original

Título: MetRoBERTa: Leveraging Traditional Customer Relationship Management Data to Develop a Transit-Topic-Aware Language Model

Resumen: Transit riders' feedback provided in ridership surveys, customer relationship management (CRM) channels, and in more recent times, through social media is key for transit agencies to better gauge the efficacy of their services and initiatives. Getting a holistic understanding of riders' experience through the feedback shared in those instruments is often challenging, mostly due to the open-ended, unstructured nature of text feedback. In this paper, we propose leveraging traditional transit CRM feedback to develop and deploy a transit-topic-aware large language model (LLM) capable of classifying open-ended text feedback to relevant transit-specific topics. First, we utilize semi-supervised learning to engineer a training dataset of 11 broad transit topics detected in a corpus of 6 years of customer feedback provided to the Washington Metropolitan Area Transit Authority (WMATA). We then use this dataset to train and thoroughly evaluate a language model based on the RoBERTa architecture. We compare our LLM, MetRoBERTa, to classical machine learning approaches utilizing keyword-based and lexicon representations. Our model outperforms those methods across all evaluation metrics, providing an average topic classification accuracy of 90%. Finally, we provide a value proposition of this work demonstrating how the language model, alongside additional text processing tools, can be applied to add structure to open-ended text sources of feedback like Twitter. The framework and results we present provide a pathway for an automated, generalizable approach for ingesting, visualizing, and reporting transit riders' feedback at scale, enabling agencies to better understand and improve customer experience.

Autores: Michael Leong, Awad Abdelhalim, Jude Ha, Dianne Patterson, Gabriel L. Pincus, Anthony B. Harris, Michael Eichler, Jinhua Zhao

Última actualización: 2023-08-09 00:00:00

Idioma: English

Fuente URL: https://arxiv.org/abs/2308.05012

Fuente PDF: https://arxiv.org/pdf/2308.05012

Licencia: https://creativecommons.org/licenses/by/4.0/

Cambios: Este resumen se ha elaborado con la ayuda de AI y puede contener imprecisiones. Para obtener información precisa, consulte los documentos originales enlazados aquí.

Gracias a arxiv por el uso de su interoperabilidad de acceso abierto.

Más de autores

Artículos similares