Simple Science

Ciência de ponta explicada de forma simples

# Informática# Inteligência Artificial

Transformando a Análise de Feedback de Trânsito com o MetRoBERTa

O MetRoBERTa melhora a forma como as agências de transporte analisam o feedback dos clientes pra oferecer serviços melhores.

― 8 min ler


Feedback de TrânsitoFeedback de TrânsitoReinventadotransporte.feedback dos clientes para agências deMetRoBERTa revoluciona a análise de
Índice

As agências de transporte público coletam uma quantidade grande de dados sobre as experiências dos Clientes por meio de vários canais, como pesquisas, sistemas de Feedback online e redes sociais. Esse feedback é crucial pra entender como melhorar os serviços e recuperar passageiros depois de interrupções, como a pandemia. Mas analisar esse feedback pode ser complicado por causa da sua natureza não estruturada. Muitos comentários são abertos, o que dificulta a categorização e a obtenção de insights claros.

A Necessidade de Melhores Ferramentas de Análise

Tradicionalmente, as equipes de atendimento ao cliente das agências de transporte revisavam comentários individuais e os abordavam um por um. Com o aumento do uso das redes sociais, especialmente plataformas como o Twitter, surgiu a necessidade de se adaptar e analisar essas fontes de feedback mais informais. Como esse feedback é frequentemente não estruturado, cria desafios para as agências que tentam identificar padrões e tendências.

Ferramentas padrão para analisar texto podem não ser eficazes para questões específicas do transporte. O feedback pode abranger uma ampla gama de tópicos, e juntar tudo pode obscurecer diferenças importantes. Por exemplo, uma análise geral de comentários que apenas conta feedback positivo ou negativo pode não refletir com precisão as experiências dos passageiros.

Desenvolvendo um Modelo de Linguagem Específico para Transporte

Pra resolver esse problema, pesquisadores desenvolveram um modelo especializado chamado MetRoBERTa. Esse modelo é projetado pra analisar feedback relacionado especificamente a tópicos de transporte. Treinando o modelo com seis anos de dados da Autoridade de Transporte da Área Metropolitana de Washington (WMATA), o objetivo era classificar o feedback aberto em tópicos relevantes de transporte.

Primeiro, os pesquisadores criaram um conjunto de dados de treinamento que identificava 11 tópicos chave no feedback dos clientes. Esses tópicos foram derivados da combinação de vários comentários de feedback ao longo de vários anos. Com esse conjunto de dados, eles treinaram o MetRoBERTa pra reconhecer e classificar diferentes tipos de feedback com precisão.

Comparando MetRoBERTa com Métodos Tradicionais

O MetRoBERTa foi testado em comparação com métodos tradicionais de análise que se baseiam em palavras-chave e categorização geral. O desempenho do MetRoBERTa foi significativamente melhor, alcançando uma precisão de cerca de 90%. Essa precisão significa que ele conseguia classificar o tipo de feedback de forma muito mais eficaz do que modelos mais antigos.

Métodos tradicionais frequentemente têm dificuldades com contexto, o que significa que podem interpretar mal comentários que, à primeira vista, usam palavras semelhantes, mas têm significados diferentes. Por exemplo, um comentário sobre segurança pode estar relacionado a crimes ou assédio, mas sistemas baseados em palavras-chave podem classificá-lo erroneamente. O MetRoBERTa, por outro lado, é projetado pra entender o contexto em que as palavras são usadas, levando a classificações mais precisas.

Adicionando Estrutura ao Feedback Aberto

Uma das principais vantagens de usar o MetRoBERTa é a capacidade de adicionar estrutura à natureza muitas vezes caótica do feedback aberto. Ao categorizar e contextualizar essas informações, as agências de transporte podem entender melhor como os clientes se sentem sobre diferentes aspectos do serviço. Por exemplo, ao analisar tweets e feedback de CRM simultaneamente, as agências podem ter uma visão mais clara do sentimento dos clientes sobre vários tópicos.

Entendendo as Fontes de Feedback dos Clientes

Ao aplicar o MetRoBERTa, as agências podem analisar feedback tanto de sistemas de CRM quanto de redes sociais. Essa abordagem permite que elas comparem como o feedback difere entre processos formais de reclamação e os comentários informais feitos online. Muitas vezes, a natureza do feedback varia significativamente entre esses dois canais.

Por exemplo, tweets podem mostrar Sentimentos mais neutros ou positivos em comparação com o feedback de CRM, que tende a ser mais negativo. Essa diferença pode ser atribuída à facilidade de tweetar em comparação com o esforço envolvido em enviar uma reclamação formal.

Principais Descobertas da Análise de Feedback

Analisar feedback de sistemas de CRM e Twitter pode revelar insights valiosos. Por exemplo, usando o modelo MetRoBERTa, as agências podem descobrir que a maioria dos comentários positivos no feedback de CRM está relacionada a interações de atendimento ao cliente. Em contraste, outros tópicos como limpeza ou fornecimento de informações podem ser abordados com mais frequência no Twitter.

Esses insights permitem que as agências entendam onde estão se saindo bem e onde precisam melhorar, além de como o feedback dos clientes pode diferir por tipo de serviço (por exemplo, ônibus vs. trem).

Gerando Métricas de Desempenho

Outro benefício da análise de feedback estruturada oferecida pelo MetRoBERTa é a capacidade de gerar métricas de desempenho. As agências podem acompanhar reclamações por milhão de passageiros e normalizar os dados pra levar em conta mudanças na quantidade de passageiros. Isso dá uma visão mais clara do sentimento dos clientes ao longo do tempo e pode ajudar as agências a identificar tendências relacionadas a mudanças específicas no serviço.

Por exemplo, se uma nova política de tarifas for implementada, analisar o feedback pode mostrar se o sentimento dos clientes melhorou ou piorou nas semanas seguintes à mudança. Esses dados são inestimáveis pra tomar decisões informadas sobre políticas futuras.

Um Olhar sobre o Feedback ao Longo do Tempo

Usar uma estrutura consistente como o MetRoBERTa permite que as agências de transporte realizem estudos longitudinais do feedback dos clientes. Ao analisar tendências ao longo do tempo, as agências podem identificar padrões ligados a mudanças operacionais ou incidentes. Por exemplo, se houver reclamações sobre a limpeza dos ônibus após uma iniciativa de limpeza profunda, as agências podem acompanhar como os sentimentos mudaram nas semanas seguintes.

Ao observar tendências de longo prazo, as agências também podem prever melhor as reações futuras dos clientes a mudanças ou novos programas. Isso pode levar a medidas mais proativas que poderiam melhorar as experiências dos clientes.

Desafios e Direções Futuras

Embora o MetRoBERTa mostre grande potencial, ainda há desafios pela frente pra aproveitar ao máximo essa tecnologia. Uma preocupação é a necessidade de treinamento contínuo com dados de feedback frescos pra manter a precisão. À medida que a linguagem e as expectativas dos clientes evoluem, atualizar o modelo frequentemente será essencial.

Outro desafio é lidar com a classificação errada do feedback. Embora o modelo geralmente funcione bem, pode haver casos em que ele classifica tópicos de forma errada. Trabalhos futuros se concentrarão em melhorar como os tópicos são categorizados pra minimizar esse problema e aumentar a precisão do modelo.

Aplicações Mais Amplas do Modelo

A metodologia desenvolvida por meio desta pesquisa pode ser aplicada a várias outras formas de feedback aberto, não apenas de agências de transporte. Outros setores poderiam se beneficiar de ferramentas semelhantes que oferecem uma maneira estruturada de analisar o sentimento dos clientes, seja na hospitalidade, varejo ou indústrias de serviços.

Ao aproveitar grandes conjuntos de dados e modelos de linguagem avançados como o MetRoBERTa, as empresas podem obter insights mais profundos sobre as experiências dos clientes em diferentes plataformas. Isso ajuda a informar decisões operacionais e melhorar a satisfação geral do cliente.

Conclusão

O MetRoBERTa representa um avanço significativo em como as agências de transporte público podem analisar o feedback dos clientes. Ao transformar texto não estruturado em insights estruturados e acionáveis, as agências podem entender melhor as experiências dos passageiros e tomar decisões informadas pra melhorar o serviço.

A implementação bem-sucedida desse modelo pode abrir caminho pra melhorar as relações com os clientes e a satisfação nos sistemas de transporte público, levando, em última análise, a um aumento no número de passageiros à medida que as agências se adaptam pra atender às necessidades e desejos de seus clientes. O desenvolvimento e a refinamento contínuos do MetRoBERTa e modelos similares ajudarão a garantir que o transporte público permaneça responsivo às vozes de seus passageiros.

Fonte original

Título: MetRoBERTa: Leveraging Traditional Customer Relationship Management Data to Develop a Transit-Topic-Aware Language Model

Resumo: Transit riders' feedback provided in ridership surveys, customer relationship management (CRM) channels, and in more recent times, through social media is key for transit agencies to better gauge the efficacy of their services and initiatives. Getting a holistic understanding of riders' experience through the feedback shared in those instruments is often challenging, mostly due to the open-ended, unstructured nature of text feedback. In this paper, we propose leveraging traditional transit CRM feedback to develop and deploy a transit-topic-aware large language model (LLM) capable of classifying open-ended text feedback to relevant transit-specific topics. First, we utilize semi-supervised learning to engineer a training dataset of 11 broad transit topics detected in a corpus of 6 years of customer feedback provided to the Washington Metropolitan Area Transit Authority (WMATA). We then use this dataset to train and thoroughly evaluate a language model based on the RoBERTa architecture. We compare our LLM, MetRoBERTa, to classical machine learning approaches utilizing keyword-based and lexicon representations. Our model outperforms those methods across all evaluation metrics, providing an average topic classification accuracy of 90%. Finally, we provide a value proposition of this work demonstrating how the language model, alongside additional text processing tools, can be applied to add structure to open-ended text sources of feedback like Twitter. The framework and results we present provide a pathway for an automated, generalizable approach for ingesting, visualizing, and reporting transit riders' feedback at scale, enabling agencies to better understand and improve customer experience.

Autores: Michael Leong, Awad Abdelhalim, Jude Ha, Dianne Patterson, Gabriel L. Pincus, Anthony B. Harris, Michael Eichler, Jinhua Zhao

Última atualização: 2023-08-09 00:00:00

Idioma: English

Fonte URL: https://arxiv.org/abs/2308.05012

Fonte PDF: https://arxiv.org/pdf/2308.05012

Licença: https://creativecommons.org/licenses/by/4.0/

Alterações: Este resumo foi elaborado com a assistência da AI e pode conter imprecisões. Para obter informações exactas, consulte os documentos originais ligados aqui.

Obrigado ao arxiv pela utilização da sua interoperabilidade de acesso aberto.

Mais de autores

Artigos semelhantes