TWIN V2: Mejorando las predicciones de CTR a través del comportamiento a largo plazo del usuario

En el mundo de las plataformas en línea, predecir si un usuario hará clic en un ítem específico es clave. Esta predicción se conoce como predicción de Tasa de Clics (CTR). Muchas grandes empresas tecnológicas, como Kuaishou, una popular plataforma de videos cortos en China, dependen de predicciones precisas de CTR para optimizar la experiencia de los usuarios y mejorar sus resultados comerciales.

Uno de los desafíos en la predicción de CTR es entender el Comportamiento del usuario a lo largo del tiempo. Los usuarios pueden interactuar con una aplicación durante años, lo que genera una gran cantidad de datos. Sin embargo, la mayoría de los modelos tienen dificultades para analizar completamente esta extensa historia de comportamiento. Este artículo habla de un nuevo modelo que captura de manera eficiente los intereses a largo plazo de los usuarios basándose en todo su uso de la app.

#La Importancia del Comportamiento a Largo Plazo del Usuario

Los intereses a largo plazo de los usuarios juegan un papel significativo en cómo los sistemas en línea hacen recomendaciones. Por ejemplo, saber qué ha visto un usuario a lo largo de los años puede ayudar a recomendar videos que probablemente le gusten. Los modelos tradicionales a menudo no logran modelar eficazmente estas largas historias, enfocándose en cambios más recientes.

Las investigaciones muestran que los usuarios a menudo repiten acciones similares, como ver muchos videos dentro del mismo género o temática. Por lo tanto, reconocer estos patrones puede llevar a mejores sugerencias de contenido. Sin embargo, manejar grandes cantidades de datos de usuarios mientras se mantiene la eficiencia del procesamiento es un gran desafío para los Sistemas de Recomendación.

#Modelos Existentes y Sus Limitaciones

Muchos modelos existentes, como SIM y TWIN, utilizan un enfoque de dos pasos para analizar el comportamiento del usuario. En el primer paso, el sistema encuentra rápidamente un conjunto más pequeño de interacciones relevantes. El segundo paso implica un análisis más detallado de este subconjunto para puntuar los intereses del usuario. Aunque este enfoque es más rápido, a menudo no puede captar toda la gama de comportamiento del usuario a lo largo del tiempo.

Por ejemplo, TWIN solo puede filtrar comportamientos de usuario de los últimos meses, perdiendo datos históricos más amplios que podrían proporcionar información más profunda. La mayoría de los métodos actuales tienen restricciones de longitud, lo que dificulta comprender el perfil completo del comportamiento de un usuario.

#Presentando el Nuevo Modelo: TWIN V2

Para abordar estas limitaciones, proponemos TWIN V2, una actualización del modelo TWIN anterior. Este nuevo modelo adopta una estrategia de divide y vencerás, descomponiendo toda la historia de un usuario en clústeres más pequeños y manejables. Al utilizar Clustering Jerárquico, se agrupan comportamientos similares, permitiendo al sistema comprender más a fondo los intereses del usuario.

El clustering jerárquico agrupa ítems con los que los usuarios interactuaron con frecuencia, como videos de géneros similares. Al comprimir estos comportamientos en clústeres, el modelo puede analizar intereses a largo plazo mientras reduce la carga de procesamiento durante la inferencia en tiempo real.

#El Enfoque de Clustering

El método de clustering funciona en dos fases: fuera de línea y en línea.

#Fase Fuera de Línea

Durante la fase fuera de línea, el modelo organiza los comportamientos de los usuarios en clústeres basados en similitudes. Por ejemplo, si un usuario ha visto muchos videos de cocina, estos videos se agrupan. El objetivo es manejar la longitud de los datos de comportamiento del usuario, transformándolos en una forma más pequeña y condensada mientras se conservan patrones significativos.

Una vez agrupados, cada grupo es representado por un "ítem virtual", que resume las características del clúster. Esta agregación minimiza la cantidad de datos que el sistema en línea necesita procesar, lo que permite respuestas más rápidas.

#Fase en Línea

En la fase en línea, el sistema recupera clústeres relevantes y los procesa para encontrar los intereses del usuario. El modelo utiliza un método llamado atención objetivo consciente del clúster, que pondera la importancia de cada clúster al hacer predicciones.

Al centrarse en los tamaños de los clústeres, el modelo puede entender mejor qué géneros de videos o tipos de contenido prefiere el usuario. Clústeres más grandes indican una preferencia más fuerte, lo que permite recomendaciones más precisas.

#Procesamiento Eficiente y Reducción de Sobrecarga

El proceso de clustering jerárquico reduce significativamente los requisitos de almacenamiento y acelera los cálculos. Esta reducción permite que el sistema mantenga un equilibrio entre la precisión deseada y el procesamiento eficiente. Al comprimir la larga historia de comportamiento de un usuario en clústeres más pequeños, el modelo puede manejar más datos sin abrumar los recursos computacionales.

El modelo TWIN V2 ahora puede analizar de manera eficiente hasta un millón de interacciones de usuario a lo largo de su vida dentro de la app. Este avance es un logro notable, ya que la mayoría de los modelos anteriores no podían considerar de manera eficiente un número tan grande de comportamientos.

#Rendimiento y Pruebas

Para validar la efectividad de TWIN V2, se realizaron pruebas extensivas en un conjunto de datos de miles de millones de interacciones de usuario. Estas pruebas incluyeron no solo experimentos fuera de línea, sino también pruebas A/B en tiempo real dentro de la plataforma Kuaishou.

#Pruebas Fuera de Línea

En las pruebas fuera de línea, TWIN V2 superó a varios modelos estándar, mostrando mejoras significativas en la predicción de clics de usuarios. Los resultados indicaron que el modelo podía aprovechar eficazmente el comportamiento a largo plazo del usuario, lo que llevó a recomendaciones superiores en comparación con sus predecesores.

#Pruebas en Línea

Las pruebas A/B en línea involucraron la implementación del nuevo modelo en un pequeño segmento de usuarios, permitiendo comparaciones con el modelo TWIN existente. Las métricas evaluadas incluyeron tasas de engagement y la diversidad del contenido recomendado.

Los resultados de estas pruebas mostraron que los usuarios respondieron positivamente a las recomendaciones hechas por TWIN V2. El tiempo que los usuarios pasaron viendo videos aumentó, y las recomendaciones se volvieron más variadas y atractivas. Esta mejora resalta la capacidad del modelo para capturar una comprensión más amplia de las preferencias de los usuarios basándose en toda su historia de interacción.

#Aplicación en el Mundo Real

TWIN V2 se ha implementado en el sistema de recomendación de Kuaishou y actualmente está sirviendo a millones de usuarios diarios. El proceso de implementación involucra actualizaciones periódicas para agrupar los comportamientos de los usuarios, asegurando que el modelo se mantenga actualizado con la actividad más reciente. Al utilizar técnicas de clustering, el modelo optimiza los procesos de datos, reduciendo significativamente el tiempo requerido para analizar los comportamientos de los usuarios.

La capacidad de la plataforma para ofrecer contenido personalizado ha mejorado, y los usuarios han reportado una mayor satisfacción con las recomendaciones que reciben.

#Direcciones Futuras

La introducción de TWIN V2 marca un paso importante en la predicción de CTR y modelado del comportamiento del usuario. Sin embargo, aún hay caminos para seguir investigando y desarrollando. Las futuras mejoras podrían enfocarse en:

1. Mejorar Métodos de Clustering: Desarrollar técnicas de clustering más sofisticadas que se adapten al comportamiento cambiante del usuario con el tiempo.

2. Incorporar Más Tipos de Datos: Explorar diversas entradas de datos, como interacciones sociales o contenido generado por usuarios, para enriquecer los modelos de comportamiento del usuario.

3. Técnicas de Personalización: Implementar métodos de personalización avanzados para ajustar las recomendaciones según los perfiles individuales de los usuarios.

4. Actualizaciones en Tiempo Real: Mejorar la capacidad del modelo para actualizarse en tiempo real, permitiéndole adaptarse a cambios súbitos en los intereses o tendencias de los usuarios.

5. Aprendizaje entre Plataformas: Utilizar datos de múltiples plataformas para crear una comprensión más completa del comportamiento del usuario en diferentes contextos.

#Conclusión

TWIN V2 representa un avance significativo en el modelado del comportamiento a largo plazo del usuario para la predicción de CTR. Al agrupar de manera eficiente las interacciones de los usuarios y aprovechar un análisis de datos integral, el modelo logra recomendaciones más precisas y diversas. La implementación exitosa en Kuaishou muestra su potencial para aplicaciones del mundo real, mejorando en última instancia la experiencia del usuario y aumentando el compromiso en la plataforma. A medida que la tecnología continúa evolucionando, el trabajo futuro puede construir sobre estas ideas para refinar y mejorar aún más los sistemas de recomendación en diversas industrias.