Detecção de Intenção Eficiente para Suporte ao Cliente
Um sistema que melhora a detecção de intenções com listas de intenções personalizadas dos clientes.
― 9 min ler
Detectar a intenção por trás dos pedidos de suporte ao cliente é super importante pra oferecer um serviço eficiente. Isso ajuda os atendentes a entenderem as perguntas rapidinho e a darem prioridade nas respostas. Existem várias maneiras de identificar essas intenções, mas criar modelos específicos pra cada cliente ou setor pode sair caro e ser impraticável quando a quantidade de Clientes cresce.
Essa abordagem traz uma solução pra escalar a Detecção de Intenção de forma eficiente entre diferentes clientes. Combinando um Modelo Geral com listas das intenções importantes de cada cliente, a gente consegue manter os custos de treinamento e manutenção baixos, sem perder a experiência personalizada. Esse sistema se adapta bem às mudanças nas intenções relevantes dos clientes.
O desempenho desse sistema é bem melhor do que o de modelos específicos de setores, mostrando sua flexibilidade e capacidade de atender às necessidades de diferentes clientes.
A Importância da Detecção de Intenção
Identificar automaticamente as intenções por trás dos pedidos de suporte ao cliente é um elemento chave em qualquer sistema de suporte eficiente. Quando os atendentes sabem qual a intenção dos pedidos que chegam, conseguem responder de maneira mais eficiente. Por exemplo, identificar a intenção permite criar filas de prioridade, assim os atendentes focam nas perguntas mais urgentes primeiro.
A detecção de intenção também ajuda a conectar intenções específicas com respostas automáticas ou macros, acelerando ainda mais o processo de suporte. Além disso, quando combinada com ferramentas de análise, as informações sobre intenções podem oferecer uma visão valiosa das atividades e pedidos de suporte ao cliente.
Desafios na Detecção de Intenção
O desafio em que estamos focando é conseguir uma detecção de intenção eficaz para o suporte ao cliente em grande escala. O sistema precisa conseguir lidar com pedidos de vários clientes e setores. Cada setor, seja finanças, software ou e-commerce, geralmente tem seu próprio conjunto de intenções relevantes que devem ser categorizadas com precisão.
A detecção de intenção normalmente usa técnicas de aprendizado de máquina supervisionado. Esses modelos usam o conteúdo dos pedidos como entrada, como o assunto e o corpo de um e-mail, junto com outras informações sobre o usuário ou cliente. A saída é uma ou mais intenções de uma lista pré-definida.
Uma maneira de alcançar a detecção de intenção em larga escala é usar um único modelo que possa lidar com todos os clientes e intenções. Esse modelo geral é econômico e fácil de manter, mas às vezes pode gerar intenções que não se aplicam a clientes específicos, o que diminui a confiança no sistema.
Por outro lado, modelos específicos de setor atendem a clientes dentro de campos semelhantes. Embora essa abordagem ofereça mais precisão para intenções específicas, ela se torna complexa à medida que o número de setores aumenta. Atribuir clientes a setores específicos também pode ser complicado, especialmente para clientes que se encaixam em várias categorias.
Além disso, a lista de intenções relevantes para os clientes pode mudar ao longo do tempo. Algumas intenções podem se tornar irrelevantes, e o sistema precisa se adaptar a essas mudanças de forma eficaz. Portanto, é essencial que o sistema de detecção de intenção se mantenha forte, mesmo se novas intenções aparecerem sem aviso prévio, para manter um nível consistente de desempenho.
Nosso Sistema Proposto
A gente propõe um sistema com um único modelo geral que leva em conta tanto o conteúdo dos tickets quanto uma lista das intenções relevantes de cada cliente. A lista de intenções relevantes pode vir dos dados passados do cliente ou ser definida por ele. Essa lista fornece uma visão mais clara das necessidades do setor do cliente.
Além disso, usamos um método de filtragem pra remover rapidamente intenções irrelevantes pra cada cliente, independentemente dos horários de re-treinamento do modelo.
As principais contribuições desse sistema são:
- Permitir que os clientes tenham seu próprio conjunto personalizado de intenções.
- Eliminar a necessidade de categorizar clientes por setor e implantar vários modelos específicos.
- Oferecer um desempenho melhor em comparação com um modelo geral, usando listas de intenções relevantes como características adicionais.
- Incluir um método de treinamento que pode se ajustar rapidamente às mudanças nas intenções relevantes de cada cliente ao longo do tempo.
Compreendendo o Processo
Podemos ver a tarefa de detecção de intenção como um problema de classificação, onde o objetivo é prever uma intenção de uma lista pré-definida, com base em certas características. Essas características podem incluir o conteúdo do ticket, junto com informações adicionais do cliente.
No campo do suporte ao cliente, diferentes métodos podem ser usados pra detecção de intenção. Podemos ter clientes e setores, com várias abordagens a serem aplicadas. O método mais simples é usar um único modelo geral que não considera a origem dos pedidos.
Alternativamente, existem modelos específicos de setor que lidam com pedidos de clientes dentro de seu setor, usando apenas as intenções relevantes pra aquele campo. Cada método tem suas vantagens e desvantagens. O modelo geral oferece simplicidade em termos de treinamento e manutenção, enquanto os modelos específicos de setor fornecem resultados mais personalizados, mas com custos mais altos.
Nossa solução proposta combina o melhor dos dois mundos, usando um único modelo geral que integra listas de intenções relevantes. Essa abordagem reduz efetivamente o tempo de treinamento, o tempo de implantação e os custos gerais, enquanto garante que o modelo entregue resultados precisos para cada cliente.
Arquitetura do Modelo
Usamos um codificador transformer conhecido como XLM-RoBERTa pra processar o conteúdo dos pedidos. Essa escolha foi feita porque ele pode lidar com múltiplas línguas, o que é essencial em situações de suporte ao cliente.
A parte de classificação do nosso modelo leva em conta a lista de intenções relevantes, resultando em previsões mais personalizadas. O modelo é estruturado de forma que combina o conteúdo do ticket e a lista de intenções relevantes pra melhorar a precisão.
Configuração Experimental
Os experimentos utilizam um conjunto de dados interno feito de tickets reais de clientes. A entrada pros modelos inclui o assunto e a descrição dos tickets. Esse conjunto de dados inclui pedidos em nove línguas diferentes e cobre 683 intenções diferentes de suporte ao cliente.
Pra preparar o conjunto de dados pra treinamento e avaliação, usamos um método chamado amostragem estratificada. Isso mantém a proporção de cada intenção enquanto atribui uma parte ao conjunto de validação. Também criamos conjuntos de dados separados pra diferentes setores, contendo apenas tickets relevantes pra aqueles campos.
Avaliação de Desempenho
Comparamos o modelo geral com modelos específicos de setor pra ver qual deles performa melhor. O objetivo é mostrar que um único modelo pode lidar com pedidos de vários setores de forma eficaz.
Ao treinar modelos específicos de setor pra setores como Software, E-commerce e Finanças, descobrimos que o modelo geral se sai bem contra eles, mostrando apenas pequenas quedas em certas áreas. Isso apoia a ideia de que um modelo geral pode gerenciar tarefas de detecção de intenção de forma eficaz.
O Impacto das Listas de Intenções Relevantes
Incluir listas de intenções relevantes melhora o desempenho do modelo. No entanto, essas listas podem mudar, então o modelo precisa se adaptar sem precisar de re-treinamento constante.
Pra medir isso, treinamos modelos com vários níveis de cobertura das intenções relevantes. Avaliamos o desempenho com base em diferentes cenários, como quando os clientes adicionam ou removem intenções ao longo do tempo. Descobrimos que modelos que utilizam listas de intenções relevantes geralmente têm um desempenho melhor do que aqueles sem, mostrando que essa abordagem mantém a capacidade de se adaptar a mudanças enquanto mantém um alto desempenho.
Lidando com Mudanças nas Listas de Intenções
Pra melhorar a resistência do modelo a mudanças nas intenções relevantes, introduzimos ruído sintético durante o treinamento. Isso significa que durante o treinamento, o modelo é exposto a diferentes listas pro mesmo cliente, ajudando a se tornar mais flexível em relação a mudanças do mundo real.
Nos nossos testes, modelos treinados com pequenas quantidades de ruído mostram o melhor desempenho. Eles conseguem se manter confiáveis, mesmo ao enfrentar mudanças nas listas de intenções. No entanto, modelos treinados com muito ruído não performam tão bem, indicando que o equilíbrio é crucial.
Avaliando o Desempenho Fora do Domínio
Também avaliamos como nossos modelos se saem com dados de clientes que não faziam parte do processo de treinamento. Isso ajuda a entender como o modelo generaliza pra novos cenários.
Em resumo, nossas descobertas mostram que modelos que consideram listas de intenções relevantes têm um desempenho melhor em vários contextos, mesmo lidando com clientes fora dos dados de treinamento. Isso ilustra a capacidade do modelo de generalizar e lidar com diferentes situações de forma eficaz.
Conclusão
Desenvolvemos um novo sistema pra detectar intenções de suporte ao cliente que escala bem com o número de clientes. Usando um único modelo geral com uma lista única de intenções relevantes pra cada cliente, reduzimos a complexidade e os custos.
Essa abordagem não só facilita a manutenção, mas também personaliza o serviço pra atender às necessidades dos clientes. O sistema resultante supera tanto modelos específicos de setor quanto modelos genéricos, provando que nosso método aproveita efetivamente as intenções relevantes pra melhorar a precisão da classificação.
Nosso trabalho demonstra o potencial de usar listas de intenções relevantes como informações valiosas pra detecção de intenção, garantindo que o modelo seja robusto e adaptável em um ambiente dinâmico.
Título: Intent Detection at Scale: Tuning a Generic Model using Relevant Intents
Resumo: Accurately predicting the intent of customer support requests is vital for efficient support systems, enabling agents to quickly understand messages and prioritize responses accordingly. While different approaches exist for intent detection, maintaining separate client-specific or industry-specific models can be costly and impractical as the client base expands. This work proposes a system to scale intent predictions to various clients effectively, by combining a single generic model with a per-client list of relevant intents. Our approach minimizes training and maintenance costs while providing a personalized experience for clients, allowing for seamless adaptation to changes in their relevant intents. Furthermore, we propose a strategy for using the clients relevant intents as model features that proves to be resilient to changes in the relevant intents of clients -- a common occurrence in production environments. The final system exhibits significantly superior performance compared to industry-specific models, showcasing its flexibility and ability to cater to diverse client needs.
Autores: Nichal Narotamo, David Aparicio, Tiago Mesquita, Mariana Almeida
Última atualização: 2023-09-15 00:00:00
Idioma: English
Fonte URL: https://arxiv.org/abs/2309.08647
Fonte PDF: https://arxiv.org/pdf/2309.08647
Licença: https://creativecommons.org/licenses/by/4.0/
Alterações: Este resumo foi elaborado com a assistência da AI e pode conter imprecisões. Para obter informações exactas, consulte os documentos originais ligados aqui.
Obrigado ao arxiv pela utilização da sua interoperabilidade de acesso aberto.
Ligações de referência
- https://zendesk.atlassian.net/wiki/spaces/DS/pages/5116632059/Intent+Detection
- https://docs.google.com/presentation/d/1VVG8FlSvFltADgKnkwkXPKvbOCqC7SI7juBCpXbyL2w/edit#slide=id.g24bd648472e_0_0
- https://docs.google.com/presentation/d/1391F182Gb5sIqkwUtn_vViwn_7wjt48EjaxgWEPHS0Y/edit#slide=id.g21cd9653d91_0_0
- https://zendesk.atlassian.net/wiki/spaces/DS/pages/5786436561/Generic+vs+Industry+specific+Overall+results
- https://zendesk.atlassian.net/wiki/spaces/DS/pages/5733977303/Generic+model+with+top+intents
- https://zendesk.atlassian.net/wiki/spaces/DS/pages/5785028505/Generic+model+with+top+intents+-+inserting+noise+into+lists
- https://zendesk.atlassian.net/wiki/spaces/DS/pages/5785256481/Generic+model+with+top+intents+-+evaluation+on+out-of-domain+clients
- https://arxiv.org/pdf/1902.10909v1.pdf
- https://arxiv.org/pdf/2111.02705.pdf