Nuevo enfoque híbrido para el análisis de sentimientos usando computación cuántica

El análisis de sentimientos es el proceso de determinar el tono emocional detrás de las palabras. Ayuda a averiguar si los sentimientos expresados en un texto son positivos, negativos o neutros. Esta tarea es importante para empresas e investigadores que quieren entender la opinión pública y el comportamiento del consumidor. Sin embargo, construir modelos efectivos para el análisis de sentimientos presenta desafíos, especialmente en lo que respecta a la calidad de los datos y al tiempo que se necesita para entrenar estos modelos.

Recientemente, los científicos están buscando nuevas maneras de acelerar este proceso de entrenamiento usando sistemas híbridos que combinan computación clásica y cuántica. La computación cuántica es un nuevo enfoque que utiliza principios de la mecánica cuántica. Tiene el potencial de resolver problemas complejos más rápido que las computadoras tradicionales.

#Clasificadores Híbridos Clásico-Cuánticos

En la búsqueda de mejores métodos para el análisis de sentimientos, los investigadores están experimentando con un clasificador híbrido clásico-cuántico (HCQC). Este enfoque combina métodos clásicos con computación cuántica para ver si puede mejorar los resultados. Las pruebas iniciales compararon el rendimiento del HCQC con clasificadores tradicionales, uno siendo el CPLEX y el otro usando un modelo Transformer, que ha tenido éxito en varias tareas de procesamiento de lenguaje natural.

Los resultados indicaron que aunque el HCQC no igualó la precisión del modelo Transformer, fue más rápido al encontrar una buena solución. Sin embargo, hay preocupaciones sobre el marco del HCQC, ya que algunos componentes de su arquitectura no están completamente disponibles debido a las propiedades del sistema D-wave, una compañía especializada en computación cuántica.

Para abordar este problema, los investigadores propusieron un nuevo algoritmo que descompone ciertos tipos de problemas matemáticos (modelos QUBO) para mejorar el tiempo que la unidad de procesamiento cuántico puede usar para resolver tareas.

#El Papel de la Computación Cuántica Adiabática

En el campo del aprendizaje automático, un obstáculo significativo es el largo tiempo que se necesita para entrenar modelos de manera efectiva. Esta investigación se enfoca en agilizar este proceso de entrenamiento. El objetivo es evaluar si arquitecturas de computación no convencionales, particularmente aquellas basadas en Computación Cuántica Adiabática (AQC), pueden ayudar.

La tecnología de D-Wave es conocida por resolver problemas de optimización específicos en un formato particular (QUBO). Muchos desafíos relacionados con IA implican minimizar funciones al identificar valores específicos de parámetros. Aquí, se favorece el uso de Máquinas de Vectores de Soporte (SVM), ya que ya hay investigación sobre cómo las SVM pueden usar AQC, y porque las SVM comparten aspectos con los mecanismos de atención usados en Transformers.

La versión binaria del análisis de sentimientos implica distinguir entre oraciones que reflejan emociones positivas y aquellas que reflejan emociones negativas. Los investigadores redujeron esta tarea a un formato QUBO y evaluaron diferentes factores, incluyendo qué tan bien el modelo se desempeña durante la clasificación, el tiempo requerido para entrenar y el tiempo para clasificar nuevos ejemplos comparado con técnicas tradicionales.

#Usando TweetEval para Probar

Para probar el SVM en el análisis de sentimientos, los investigadores utilizaron un conjunto de datos llamado TweetEval, que se considera un estándar para comparar diferentes modelos. Contiene un conjunto diverso de ejemplos, principalmente tweets que están etiquetados automáticamente para sentimientos. En su enfoque, descartaron ejemplos neutrales para mantener el foco en sentimientos puramente positivos y negativos y balancearon el conjunto de datos en consecuencia.

Dado que las SVM no están diseñadas para procesar texto directamente, los investigadores tuvieron que convertir el texto a un formato más usable, conocido como embeddings. Entre los métodos disponibles, se eligió SentenceBert, ya que ayuda a capturar el contexto de oraciones completas en un solo embedding.

Al comparar métodos, los contrapartes clásicos elegidos fueron el solucionador CPLEX y RoBERTa, un modelo de aprendizaje profundo basado en los principios de BERT con mecanismos de atención. RoBERTa fue ajustado específicamente para el conjunto de datos de TweetEval.

Los resultados mostraron que RoBERTa se desempeñó significativamente mejor, con un puntaje F1 de 94.3%. El HCQC (D-Wave) logró un puntaje de 76.1%, mientras que CPLEX obtuvo 76.9%. La ligera diferencia entre los resultados de CPLEX y D-Wave podría deberse a limitaciones en los actuales solucionadores híbridos, que restringen ciertas variables de optimización.

#Eficiencia en Entrenamiento y Predicción

El tiempo que le tomó a D-Wave encontrar la mejor asignación fue significativamente menor que el del contraparte clásica-39.2 segundos frente a 101.9 segundos. Aunque las comparaciones directas con RoBERTa fueron desafiantes, se espera que RoBERTa requiera varias horas de entrenamiento en máquinas de alto rendimiento.

En cuanto al tiempo de predicción, la estructura de RoBERTa también influyó en su velocidad-tomando 136.8 segundos para hacer predicciones. En contraste, CPLEX y D-Wave fueron mucho más rápidos, requiriendo solo 2.2 y 33.9 segundos, respectivamente. El tiempo más largo para D-Wave se debió a que devolvía múltiples soluciones óptimas y un modelo que creaba un voto mayoritario para decidir la clase durante la inferencia. Sin embargo, la investigación sugirió que usar una asignación óptima podría reducir considerablemente el tiempo de predicción.

#Maximizando la Eficiencia Cuántica

El uso del solucionador híbrido de D-Wave presenta desafíos debido a su tecnología patentada, lo que lleva a un flujo de trabajo menos transparente. El análisis de resultados indicó que la unidad de procesamiento cuántico contribuyó mínimamente (promediando alrededor del 0.08%) a las ganancias de rendimiento. Esto planteó la pregunta de si más de la solución del problema podría trasladarse a la unidad de procesamiento cuántico mientras solo se usan sistemas clásicos para tareas de pre y post-procesamiento.

Para esto, los investigadores identificaron pasos preparatorios específicos necesarios para convertir problemas en el formato QUBO. Esto implica incorporar restricciones, ajustar variables de optimización en formatos binarios y asegurar que los problemas se enmarquen como tareas de minimización.

El acceso directo a la unidad de procesamiento cuántico implica realizar estas conversiones de manera independiente. Sin embargo, una de las tareas más complejas es buscar una incrustación menor, que consume tiempo debido a su costo computacional.

#Creando un Solucionador Híbrido: QSplit

Con problemas en el uso directo de la unidad de procesamiento cuántico, los solucionadores híbridos se vuelven necesarios. Los investigadores desarrollaron un solucionador híbrido llamado QSplit, con el objetivo de aumentar el uso de la QPU al descomponer problemas QUBO en secciones más pequeñas y manejables. Estas secciones más pequeñas pueden ser tratadas individualmente por la unidad de procesamiento cuántico, y los resultados pueden combinarse para una respuesta final.

El proceso de QSplit incluye la descomposición recursiva de matrices QUBO. Al dividir una matriz QUBO en varias matrices más pequeñas, los investigadores pueden manejar los cálculos de manera más efectiva. Eventualmente, el enfoque permite encontrar soluciones óptimas de manera más eficiente.

En pruebas con 128 problemas aleatorios de variables, los resultados mostraron que a medida que el tamaño del problema disminuía, el tiempo de procesamiento de la CPU aumentaba a la vez que también aumentaba el tiempo de procesamiento de la QPU, cumpliendo con los objetivos del enfoque QSplit. Mientras que el QPUSampler producía constantemente soluciones óptimas, las de QSplit presentaban una disminución en calidad, probablemente debido a su visión limitada del problema general.

#Conclusión

El viaje hacia la computación híbrida clásico-cuántica para el análisis de sentimientos revela una intersección prometedora de tecnología y metodología. La computación cuántica tiene el potencial de aportar ventajas significativas en la resolución de problemas complejos de optimización sobre métodos tradicionales.

En muchas situaciones, el acceso a grandes recursos computacionales es limitado, como en sistemas personales o embebidos. En estos casos, solucionadores híbridos como QSplit podrían proporcionar buenas aproximaciones de resultados mientras hacen que la complejidad de los cálculos sea manejable.

Los hallazgos enfatizan el equilibrio necesario entre velocidad y calidad de solución, sugiriendo que aunque se pueden hacer avances, refinamientos en estrategias de partición y métodos de resolución de problemas podrían mejorar los resultados. Esta investigación significa un paso clave hacia la integración de la computación avanzada en aplicaciones prácticas en análisis de sentimientos y más allá.