Mejorando las recomendaciones de música con embeddings avanzados

Los sistemas de recomendación musical son herramientas que ayudan a los usuarios a encontrar música que podrían disfrutar. Funcionan analizando las conexiones entre diferentes piezas musicales, artistas y oyentes. Sin embargo, un desafío común que enfrentan estos sistemas es el problema del inicio en frío. Esto sucede cuando la música nueva o los artistas no tienen suficientes datos para que el sistema haga buenas recomendaciones. Para abordar este problema, podemos obtener información directamente de la música misma para mejorar las recomendaciones.

Mientras que algunos sistemas se han basado en características de audio básicas, nosotros miramos hacia el uso de incrustaciones de audio neuronales avanzadas de modelos que han sido entrenados para entender audio y texto juntos. Nuestra investigación muestra que usar estas incrustaciones, especialmente de un modelo llamado CLAP, puede ayudar a hacer recomendaciones musicales más efectivas, particularmente cuando se combinan con métodos basados en gráficos.

#La Importancia de las Recomendaciones Musicales

Las listas de reproducción generadas por algoritmos han cambiado la forma en que los oyentes interactúan con la música. Estas listas se adaptan a preferencias individuales, ayudando a los usuarios a encontrar música que se ajuste a su estado de ánimo o situación mientras también los presentan a nuevos artistas. Para los artistas, ser incluidos en listas de reproducción puede atraer nuevos oyentes, mientras que aquellos que quedan fuera pueden luchar por ganar visibilidad.

Los sistemas de recomendación musical generalmente se pueden dividir en dos tipos principales: filtrado colaborativo y enfoques basados en contenido. El filtrado colaborativo observa las relaciones entre artistas y canciones, basándose en similitudes extraídas del comportamiento del usuario y otras características. Los métodos basados en contenido se centran en describir la música misma, analizando elementos como la melodía y el ritmo. También hay sistemas híbridos que combinan ambos métodos para mejorar las recomendaciones.

#Avances en las Técnicas de Recomendación Musical

En los últimos años, los métodos de aprendizaje contrastivo se han vuelto populares debido a su efectividad para representar diferentes tipos de datos. Un modelo notable es el Aprendizaje Contrastivo de Lenguaje y Audio, o CLAP. Este modelo conecta audio y texto en un espacio compartido, ofreciendo una nueva forma de representar la música. Investigamos el potencial de usar representaciones de CLAP para mejorar los sistemas de recomendación musical.

Para probar nuestras ideas, nos enfocamos en predecir relaciones entre artistas usando un enfoque Basado en gráficos. Esto implica observar cómo puede mejorar la información musical adicional el rendimiento de nuestros modelos. Variaremos esta información e incorporaremos incrustaciones de CLAP para ver cómo contribuyen a la tarea de predecir relaciones entre artistas.

#Enfoques Relacionados en la Recomendación Musical

#Similitud entre Artistas y Redes Neuronales de Grafos

Las Redes Neuronales de Grafos, o GNNs, adaptan métodos de aprendizaje profundo para datos organizados en gráficos. Las redes neuronales tradicionales necesitan datos estructurados, pero las GNNs pueden trabajar directamente sobre las relaciones definidas por nodos y aristas dentro de un gráfico. Esto las hace adecuadas para las tareas de recomendación musical, donde entender las conexiones entre varios artistas y canciones es clave.

Un estudio presentó un conjunto de datos que relaciona a los artistas entre sí e incluye características de audio. La GNN que usaron combinó diferentes capas para aprender de estos datos y mostró mejoras en precisión al predecir la similitud entre artistas.

#Incrustaciones Neuronales en Sistemas de Recomendación

Se han explorado varios enfoques para encontrar similitudes en la música. Algunos modelos han utilizado autoencoders o métodos de aprendizaje profundo para extraer características del audio. A diferencia de nuestro método, estos sistemas anteriores no aprovecharon el aprendizaje contrastivo. Otros sistemas híbridos se han utilizado en diferentes campos, como recomendaciones de anime, al combinar GNNs con incrustaciones de texto.

El modelo CLAP aprende cómo el audio y el texto se relacionan entre sí a través del aprendizaje contrastivo. Incluso sin el texto, las incrustaciones de audio todavía contienen información significativa que puede ser útil para tareas como las recomendaciones musicales.

#Probando Incrustaciones Neuronales de Audio

Evaluamos la efectividad de las incrustaciones neuronales de audio utilizando una tarea relacionada con la similitud entre artistas. Empleamos un conjunto de datos que contiene muchas conexiones entre artistas. Nuestro objetivo es ver qué tan bien podemos predecir nuevas relaciones entre artistas, con cada artista representado por características derivadas de su música.

Investigaciones anteriores han mostrado que añadir información musical puede mejorar el rendimiento del modelo. Observamos si las incrustaciones de CLAP pueden ofrecer una ventaja sobre las características de audio tradicionales.

#Configuración Experimental

Nuestra configuración experimental se basa en trabajos anteriores. Representamos a los artistas como nodos conectados según sus relaciones y aseguramos que las canciones que analizamos en busca de características sean consistentes. Reunimos varios datos durante las etapas preliminares, notando específicamente los estados de ánimo y temas de cada artista. Extraemos características musicales de bajo nivel usando una fuente y calculamos las incrustaciones CLAP desde otra.

A diferencia de conjuntos de datos anteriores, nos enfocamos en una sola canción por artista. Esto reduce ligeramente el número total de artistas en nuestro conjunto de datos, pero nos da una visión más clara de qué tan bien funcionan las características. Mantenemos la misma división de datos utilizada en estudios anteriores para mantener las cosas consistentes.

Para nuestro modelo, seguimos ciertas funciones de pérdida y usamos capas GNN. Experimentamos con diferentes tipos de arquitecturas GNN para averiguar cuál funciona mejor. Al variar el número de capas de gráfico y los tipos de características de nodo utilizadas, podemos analizar cómo estos factores influyen en el rendimiento del sistema.

#Comparando Características para Recomendaciones Musicales

Comparamos la efectividad de las características de CLAP con otros tipos de características como características aleatorias, características de estado de ánimo-temas y características de AcousticBrainz. Nuestros hallazgos indican que las características de CLAP rinden mejor en general, especialmente cuando se combinan con suficientes capas de gráfico.

También evaluamos combinaciones de diferentes características para ver cómo interactúan. Para configuraciones con menos capas, combinar características tiende a llevar a mejores resultados que usar cualquier característica única. Sin embargo, a medida que aumenta el número de capas de gráfico, el rendimiento de varias combinaciones de características se estabiliza, lo que significa que la estructura del gráfico en sí puede contribuir significativamente a las predicciones resultantes.

El modelo base que no utiliza ninguna capa de gráfico consistentemente rinde peor que aquellos que sí lo hacen. Las características aleatorias mostraron el rendimiento más débil, mientras que las características de CLAP lograron los mejores resultados, especialmente con un mayor número de capas. Las características de estado de ánimo-temas demostraron valor sin usar capas de gráfico, pero su rendimiento cayó cuando se incluyeron más capas.

Estos resultados destacan que las incrustaciones CLAP son útiles para las recomendaciones musicales, proporcionando información que otras características no capturan.

#Limitaciones de Nuestro Enfoque

A pesar de los resultados prometedores, nuestro estudio tiene algunas limitaciones. Primero, hay espacio para mejorar la arquitectura del modelo. Técnicas como el muestreo ponderado por distancia o capas GNN avanzadas podrían mejorar el rendimiento general, pero nuestro enfoque principal sigue siendo la efectividad comparativa de diferentes conjuntos de características.

En segundo lugar, usar solo una canción por artista podría limitar nuestra comprensión. La elección de una sola canción podría introducir variabilidad en el rendimiento. Una representación más amplia usando múltiples canciones podría producir resultados más robustos, pero también presentaría desafíos en la agregación efectiva de estas características de canciones. También hay espacio para explorar diferentes versiones del modelo CLAP u otros modelos de incrustación de audio.

#Conclusión

Esta investigación enfatiza el potencial de usar incrustaciones CLAP para sistemas de recomendación musical. Al examinar un enfoque basado en gráficos para predecir relaciones entre artistas, encontramos que las incrustaciones CLAP superaron a las características de audio tradicionales, especialmente a medida que aumentó la complejidad del modelo. Nuestros resultados sugieren que estas incrustaciones capturan aspectos importantes de la música que mejoran la precisión de las recomendaciones, demostrando que son una adición valiosa a las herramientas disponibles para el descubrimiento musical.