Analizando Datos No Estructurados con el Motor de Consultas Universal

Analizar datos estructurados es un área bien establecida con muchas técnicas efectivas. Sin embargo, mucha información en el mundo real es no estructurada, incluyendo imágenes y conversaciones. Este artículo explora cómo los grandes modelos de lenguaje (LLMs) pueden ayudar a analizar Datos no estructurados. Presentamos un nuevo Motor de Consulta Universal (UQE) que puede hacer preguntas directas y obtener información de colecciones de datos no estructurados. El UQE utiliza un Lenguaje de Consulta Universal (UQL), similar a SQL, que permite a los usuarios usar lenguaje natural para especificar condiciones y operaciones.

El UQE aprovecha la fuerza de los LLMs en el análisis de datos no estructurados mientras aplica técnicas avanzadas de muestreo y optimización para un rendimiento de consulta eficiente y preciso. También adoptamos algunos métodos de la teoría de compiladores tradicional para mejorar el flujo de trabajo entre técnicas de muestreo y llamadas a modelos.

Nuestros hallazgos muestran que el UQE es efectivo para analizar varios tipos de datos no estructurados, como imágenes, conversaciones y reseñas. Esta capacidad puede ayudar a reunir información útil, apoyando decisiones más inteligentes para negocios y la sociedad.

#El Problema con los Datos No Estructurados

Mientras que los sistemas de gestión de datos tradicionales utilizan datos estructurados con esquemas predefinidos, la mayoría de la información con la que trabajamos es no estructurada. Esto incluye formatos diversos como texto, imágenes y audio, que no se organizan fácilmente en esquemas predefinidos. Los motores SQL tradicionales tienen problemas con estos datos no estructurados porque a menudo requieren preprocesamiento para adaptarse a un formato estructurado. El preprocesamiento puede ser tedioso y requiere entrenamiento adicional sobre tareas específicas.

Esto plantea una pregunta importante: ¿Cómo podemos analizar datos no estructurados de manera más flexible y eficiente?

Los motores de búsqueda de texto completo existentes pueden manejar búsquedas simples dentro de datos no estructurados, pero fallan en consultas más complejas que requieren un razonamiento semántico más profundo. Enfoques como la Generación Aumentada por Recuperación (RAG) pueden responder preguntas basadas en datos relevantes, pero no son adecuados para tareas analíticas más generales que requieren agregación o razonamiento a través de toda una base de datos grande. Los avances en LLMs han demostrado que pueden realizar respuestas a preguntas de manera flexible. Sin embargo, siguen existiendo desafíos, especialmente en términos de costos y efectividad cuando se ajustan para tareas específicas.

Algunos esfuerzos recientes han intentado combinar LLMs con marcos de programación, permitiendo que la computación se delegue a intérpretes. Sin embargo, estos métodos pueden ser costosos si requieren escanear grandes bases de datos.

Para abordar estos desafíos, proponemos UQE, que combina LLMs con estrategias avanzadas de muestreo y optimización para crear un motor de consultas más eficiente para datos no estructurados.

#Visión General de UQE

El UQE busca refinar cómo analizamos datos no estructurados. Tomando inspiración de motores SQL, nos enfocamos en dos ideas clave: construir estructuras de indexación para evitar escanear toda la base de datos y usar un sistema de compilación para determinar el mejor orden de ejecución para las operaciones.

#Aprendiendo a Buscar

En UQE, tratamos el desafío de consultar datos no estructurados como un problema de aprendizaje. Nuestro objetivo es evitar escaneos completos de la base de datos utilizando técnicas de muestreo para tomar decisiones estadísticamente sólidas. Al enmarcar esto como un problema de búsqueda, UQE puede recuperar eficientemente filas relevantes para procesar.

#Estimación Imparcial para Consultas de Agregación

UQE puede realizar consultas de agregación sin necesidad de escanear todas las filas en una columna virtual. Al usar LLMs para clasificar si una fila cumple con las condiciones especificadas, podemos estimar totales sin escaneos completos. Se pueden emplear varios métodos de muestreo para minimizar tanto el sesgo como la varianza en las estimaciones.

#Aprendizaje En Línea para Consultas No de Agregación

Para las consultas no de agregación, el UQE utiliza un enfoque de aprendizaje en línea. Cada paso informa el siguiente, equilibrando exploración y explotación para encontrar filas relevantes que se ajusten a las condiciones establecidas por el usuario. Este método mejora la recuperación mientras se mantiene dentro de las limitaciones del presupuesto.

#Lenguaje de Consulta Universal (UQL)

Para comunicarnos con el UQE, hemos desarrollado un nuevo lenguaje de consulta: UQL. Este lenguaje se basa en SQL, pero incluye extensiones para soportar consultas de columnas no estructuradas y virtuales.

#Estructura de UQL

• SELECT especifica qué se debe outputear.
• FROM identifica la fuente de los datos.
• WHERE aplica filtros a las filas.
• GROUP BY permite agrupar filas según atributos comunes.

Por ejemplo, una consulta UQL puede verse así:

SELECT "el sentimiento de la reseña de la película" AS sentimiento
FROM movie_reviews
WHERE "la reseña es positiva"
GROUP BY "la razón por la que la reseña es positiva"

Aquí, el UQE interpretaría los componentes en lenguaje natural para obtener los datos relevantes de la base de datos.

#Implementando UQE

#Ejecución de Consultas

Ejecutar UQL implica interpretar consultas de manera que se agilice el acceso a los datos requeridos. Un enfoque sencillo sería usar métodos interpretativos básicos. Sin embargo, para conjuntos de datos más grandes, esto puede causar retrasos significativos. Para mejorar la eficiencia, empleamos dos técnicas:

• Indexación organiza los datos de tal manera que acelera las búsquedas.
• Compilación optimiza los planes de ejecución de consultas para asegurarnos de seguir el camino más eficiente para obtener resultados.

#Métodos de Indexación

En UQE, en lugar de la indexación tradicional, introducimos un método proxy que nos permite usar el contenido semántico de una columna virtual. Esto nos permite ejecutar consultas de manera eficiente sin escanear toda la base de datos.

#Implementación de Kernel

Cada kernel es una unidad de ejecución autónoma que procesa tablas, ya sean estructuradas o no estructuradas. Los kernels manejan varios comandos UQL y optimizan su funcionalidad para entregar resultados rápidamente.

#Evaluación del Rendimiento de UQE

Para mostrar la efectividad de UQE, creamos conjuntos de datos de evaluación con datos de texto e imagen a través de varias tareas analíticas. Comparamos el rendimiento de UQE con métodos existentes como LLMs de largo contexto y sistemas de recuperación basados en embeddings.

Nuestros resultados confirmaron que UQE mejora significativamente tanto la precisión como la rentabilidad al analizar datos no estructurados.

#Agregación Condicional

Esta tarea implica proporcionar estadísticas agregadas basadas en condiciones especificadas. UQE demostró errores relativos reducidos mientras lograba costos más bajos en comparación con métodos tradicionales.

#Recuperación Semántica

En esta tarea, UQE localiza filas que satisfacen condiciones especificadas. Los resultados mostraron que UQE tuvo un rendimiento consistentemente bueno, especialmente en escenarios desafiantes donde el número de filas que cumplían con las condiciones era pequeño.

#Abstracción y Agregación

Esta tarea final requiere resumir datos agrupando atributos similares y proporcionando estadísticas sobre estos grupos. UQE superó métodos base mientras mantenía costos bajos.

#Conclusión

El UQE propuesto es capaz de analizar datos no estructurados de manera eficiente aprovechando técnicas avanzadas de muestreo y aprendizaje en línea. Aunque nuestro trabajo actual tiene limitaciones en términos de semántica de consultas más complejas y escalado a conjuntos de datos más grandes, vemos un potencial prometedor para que el UQE mejore el análisis de datos en contextos tanto empresariales como cotidianos.

Nuestros esfuerzos futuros se centrarán en abordar estas limitaciones, ampliando aún más las capacidades de UQE para soportar una gama más amplia de consultas y aplicaciones.

#Trabajo Futuro

Una mayor exploración en la selección automatizada de LLMs y estrategias de muestreo mejorará el rendimiento de UQE. También planeamos mejorar la capacidad de nuestro motor de consultas para gestionar bases de datos más grandes de manera más efectiva e incorporar semánticas más complejas en UQL. A través de estos desarrollos, esperamos fortalecer la posición de UQE como una herramienta poderosa para el análisis de datos no estructurados.