TWIN V2: Melhorando Previsões de CTR através do Comportamento de Longo Prazo do Usuário

No mundo das plataformas online, prever se um usuário vai clicar em um item específico é super importante. Essa previsão é chamada de previsão de Taxa de Clique (CTR). Muitas grandes empresas de tecnologia, como a Kuaishou, uma popular plataforma de compartilhamento de vídeos curtos na China, dependem de previsões de CTR precisas pra otimizar as experiências dos usuários e melhorar os resultados dos negócios.

Um dos desafios da previsão de CTR é entender o Comportamento do Usuário ao longo do tempo. Os usuários podem interagir com um app por anos, gerando uma quantidade enorme de dados. Porém, a maioria dos modelos tem dificuldade em analisar essa história de comportamento tão extensa. Esse artigo fala sobre um novo modelo que captura de forma eficiente os interesses de longo prazo dos usuários com base em todo o uso do app.

#A Importância do Comportamento do Usuário a Longo Prazo

Os interesses de longo prazo dos usuários têm um papel significativo em como os sistemas online fazem recomendações. Por exemplo, saber o que um usuário assistiu ao longo dos anos pode ajudar a recomendar vídeos que ele provavelmente vai gostar. Modelos tradicionais muitas vezes não conseguem fazer um bom trabalho em modelar essas longas histórias, focando mais nas interações mais recentes.

Pesquisas mostram que os usuários costumam repetir ações semelhantes, como assistir a muitos vídeos dentro do mesmo gênero ou tema. Portanto, reconhecer esses padrões pode levar a sugestões de conteúdo melhores. Contudo, lidar com enormes quantidades de dados dos usuários enquanto mantém a eficiência do processamento é um grande desafio para os Sistemas de Recomendação.

#Modelos Existentes e Suas Limitações

Muitos modelos existentes, como SIM e TWIN, usam uma abordagem de duas etapas pra analisar o comportamento do usuário. Na primeira etapa, o sistema rapidamente encontra um conjunto menor de interações relevantes do usuário. A segunda etapa envolve uma análise mais detalhada desse subconjunto pra avaliar os interesses do usuário. Embora essa abordagem seja mais rápida, muitas vezes não consegue capturar toda a gama de comportamento do usuário ao longo do tempo.

Por exemplo, o TWIN consegue filtrar apenas os comportamentos dos últimos meses, perdendo dados históricos mais amplos que poderiam oferecer insights mais profundos. A maioria dos métodos atuais tem restrições de comprimento, dificultando a compreensão do perfil completo de comportamento de um usuário.

#Apresentando o Novo Modelo: TWIN V2

Pra resolver essas limitações, propomos o TWIN V2, uma atualização do modelo anterior TWIN. Esse novo modelo adota uma estratégia de dividir pra conquistar, quebrando toda a história do usuário em clusters menores e mais gerenciáveis. Usando clustering hierárquico, comportamentos semelhantes são agrupados, permitindo que o sistema entenda os interesses do usuário de forma mais abrangente.

O clustering hierárquico agrupa itens com os quais os usuários interagiram com frequência, como vídeos de gêneros semelhantes. Ao comprimir esses comportamentos em clusters, o modelo consegue analisar interesses de longo prazo enquanto reduz a carga de processamento durante a inferência em tempo real.

#A Abordagem de Clustering

O método de clustering funciona em duas fases: offline e online.

#Fase Offline

Durante a fase offline, o modelo organiza os comportamentos dos usuários em clusters com base nas semelhanças. Por exemplo, se um usuário assistiu a muitos vídeos de culinária, esses vídeos são agrupados. O objetivo é gerenciar o tamanho dos dados de comportamento do usuário, transformando-os em uma forma menor e mais condensada, mantendo padrões significativos.

Uma vez agrupados, cada grupo é representado por um "item virtual", que resume as características do cluster. Essa agregação minimiza a quantidade de dados que o sistema online precisa processar, permitindo respostas mais rápidas.

#Fase Online

Na fase online, o sistema recupera clusters relevantes e os processa pra encontrar os interesses do usuário. O modelo usa um método chamado atenção do alvo ciente do cluster, que pesa a importância de cada cluster ao fazer previsões.

Ao focar nos tamanhos dos clusters, o modelo consegue entender melhor quais gêneros de vídeo ou tipos de conteúdo o usuário prefere. Clusters maiores indicam uma preferência mais forte, permitindo recomendações mais precisas.

#Processamento Eficiente e Redução de Sobrecarga

O processo de clustering hierárquico reduz significativamente os requisitos de armazenamento e acelera os cálculos. Essa redução permite que o sistema mantenha um equilíbrio entre a precisão desejada e o processamento eficiente. Ao comprimir a longa história de comportamento de um usuário em clusters menores, o modelo consegue lidar com mais dados sem sobrecarregar os recursos computacionais.

O modelo TWIN V2 agora pode analisar de forma eficiente até um milhão de interações de usuários ao longo da vida no app. Esse avanço é uma conquista notável, já que a maioria dos modelos anteriores não conseguia considerar um número tão grande de comportamentos de forma eficiente.

#Desempenho e Testes

Pra validar a eficácia do TWIN V2, foram conduzidos testes extensivos em um conjunto de dados com bilhões de interações de usuários. Esses testes incluíram não apenas experimentos offline, mas também testes A/B em tempo real na plataforma Kuaishou.

#Testes Offline

Nos testes offline, o TWIN V2 superou vários modelos padrão, mostrando melhorias significativas na previsão de cliques dos usuários. Os resultados indicaram que o modelo poderia usar de forma eficaz o comportamento de longo prazo dos usuários, levando a recomendações superiores em comparação com seus predecessores.

#Testes Online

Os testes A/B online envolveram a implementação do novo modelo em um pequeno segmento de usuários, permitindo comparações com o modelo TWIN existente. As métricas avaliadas incluíram taxas de engajamento e a diversidade de conteúdo recomendado.

Os resultados desses testes mostraram que os usuários reagiram positivamente às recomendações feitas pelo TWIN V2. O tempo que os usuários passaram assistindo a vídeos aumentou, e as recomendações se tornaram mais variadas e envolventes. Essa melhoria destaca a capacidade do modelo de captar uma compreensão mais ampla das preferências dos usuários com base em toda a sua história de interação.

#Aplicação no Mundo Real

O TWIN V2 foi implementado no sistema de recomendação da Kuaishou e atualmente tá atendendo milhões de usuários diariamente. O processo de implantação envolve atualizações periódicas pra agrupar os comportamentos dos usuários, garantindo que o modelo fique atualizado com a atividade mais recente dos usuários. Usando técnicas de clustering, o modelo simplifica os processos de dados, reduzindo significativamente o tempo necessário pra analisar os comportamentos dos usuários.

A capacidade da plataforma de oferecer conteúdo personalizado melhorou, e os usuários relataram maior satisfação com as recomendações que recebem.

#Direções Futuras

A introdução do TWIN V2 marca um passo significativo na previsão de CTR e na modelagem do comportamento do usuário. Porém, ainda há caminhos para mais pesquisa e desenvolvimento. Futuras melhorias poderiam focar em:

1. Melhorar Métodos de Clustering: Desenvolver técnicas de clustering mais sofisticadas que se adaptem ao comportamento em mudança dos usuários ao longo do tempo.

2. Incorporar Mais Tipos de Dados: Explorar várias entradas de dados, como interações sociais ou conteúdo gerado pelo usuário, pra enriquecer os modelos de comportamento do usuário.

3. Técnicas de Personalização: Implementar métodos de personalização avançados pra ajustar recomendações com base em perfis individuais de usuários.

4. Atualizações em Tempo Real: Melhorar a capacidade do modelo de atualizar em tempo real, permitindo que ele se adapte a mudanças repentinas nos interesses ou nas tendências dos usuários.

5. Aprendizado entre Plataformas: Usar dados de várias plataformas pra criar uma compreensão mais abrangente do comportamento do usuário em diferentes contextos.

#Conclusão

O TWIN V2 representa um avanço significativo na modelagem do comportamento do usuário a longo prazo pra previsão de CTR. Ao agrupar de forma eficiente as interações dos usuários e aproveitar uma análise abrangente de dados, o modelo consegue oferecer recomendações mais precisas e diversas. A implantação bem-sucedida na Kuaishou mostra seu potencial pra aplicações no mundo real, melhorando a experiência do usuário e aumentando o engajamento na plataforma. À medida que a tecnologia continua a evoluir, o trabalho futuro pode se basear nessas percepções pra refinar e melhorar ainda mais os sistemas de recomendação em várias indústrias.