Avanzando en la generación de texto con decodificación especulativa ordenada

Los modelos de lenguaje grandes (LLMs) se han vuelto súper populares para varias tareas en investigación e industria. Pero, a medida que estos modelos crecen, también aumentan los costos para usarlos. Encontrar formas de hacer su uso más barato y rápido es clave. Un método que parece prometedor se llama Decodificación Especulativa. Este enfoque ayuda a acelerar cómo generan texto estos modelos, permitiéndoles adivinar varias palabras posibles al mismo tiempo.

#¿Qué es la Decodificación Especulativa?

La decodificación especulativa es un proceso de dos pasos. Primero, un modelo de borrador más pequeño crea palabras potenciales para el siguiente paso. Luego, estas adivinanzas son revisadas por el Modelo Principal, más grande, para ver cuáles tienen sentido. Al generar múltiples opciones a la vez, podemos acelerar el proceso en general. Los métodos tradicionales dependen de un único modelo de borrador para ayudar a un modelo principal, pero esto crea problemas al usar múltiples modelos principales que pueden necesitar diferentes tipos de ayuda.

#El Problema con los Métodos Actuales

A medida que los LLMs se vuelven más diversos y complejos, usar un modelo de borrador para múltiples modelos principales puede ser ineficiente. Puede que no ofrezca las mejores adivinanzas para cada situación. Además, cambiar el modelo de borrador según las diferentes tareas puede aumentar los costos y la complejidad aún más. Este documento presenta un nuevo enfoque para abordar estos problemas, permitiendo que un modelo de borrador sirva a múltiples modelos principales a la vez.

#Presentando la Decodificación Especulativa Ordenada (S2D)

Nuestra solución se llama Decodificación Especulativa Ordenada (S2D). La idea detrás de S2D es entrenar un modelo de borrador capaz de apoyar varios modelos principales sin necesidad de crear modelos de borrador separados para cada uno. A través de un método de entrenamiento único, podemos desarrollar Sub-modelos dentro del modelo de borrador. Esto permite que el modelo de borrador sirva a múltiples tareas simultáneamente, haciéndolo más eficiente y rentable.

#Cómo Funciona S2D

El concepto principal detrás de S2D es entrenar diferentes capas de un modelo juntas. En lugar de entrenar modelos por separado, creamos sub-modelos a partir de un solo modelo más grande. Esto nos permite usar estos sub-modelos de manera eficiente con los modelos principales.

Para implementar S2D, seguimos estos pasos:

1. Entrenando el Modelo de Borrador: Tomamos un modelo de lenguaje preentrenado y creamos varios modelos más pequeños a partir de él. Esto nos permite tener diferentes capacidades de borrador según el tamaño y la necesidad de cada tarea.

2. Generando Tokens de Borrador: Al producir texto, utilizamos un sistema basado en la confianza que decide qué sub-modelo usar para generar la siguiente palabra. Este proceso ayuda a asegurar que producimos las mejores adivinanzas posibles según las necesidades de la tarea.

3. Retroalimentación del Modelo Principal: Después de generar palabras posibles, enviamos estas opciones al modelo principal, que revisa su idoneidad. Los mejores candidatos son elegidos según la retroalimentación.

#Beneficios de S2D

Al usar S2D, logramos varias ventajas:

• Eficiencia de Costos: Con un solo modelo de borrador capaz de servir a varios modelos principales, reducimos la complejidad y los costos asociados con manejar múltiples modelos.

• Mejora del Rendimiento: Dado que el modelo de borrador puede generar adivinanzas adaptadas a varias tareas objetivo, la calidad de los resultados mejora. Esta adaptabilidad permite un mejor uso de recursos.

• Procesamiento Más Rápido: La generación paralela de adivinanzas ayuda a acelerar el proceso de inferencia, haciendo que sea más rápido obtener resultados de los LLMs.

#Comparando S2D con Otras Técnicas

En la comunidad de investigación, se han propuesto varios métodos para hacer que los LLMs sean más rápidos, como reducir capas del modelo, cambiar cómo están estructurados los modelos y la propia decodificación especulativa. Aunque muchos de estos métodos son efectivos, a menudo se centran en tareas específicas o implican ajustes considerables a los modelos existentes.

#Evaluación del Rendimiento

Probamos nuestro método S2D en varios tamaños de modelos utilizando un estándar llamado Spec-Bench. Los resultados mostraron que S2D a menudo superó a los métodos tradicionales. Para modelos más pequeños, el aumento de velocidad fue particularmente notable, mientras se mantenía una buena precisión. Los modelos más grandes se beneficiaron del mayor tamaño del borrador, lo que permitió una mejor generación de palabras.

#Conclusiones

El uso de modelos de lenguaje grandes es esencial en muchos campos, pero también presenta desafíos debido a los costos y complejidades crecientes. Nuestro enfoque S2D ofrece una solución prometedora al permitir que un solo modelo de borrador asista a múltiples modelos principales de manera efectiva. A través de un mejor diseño y entrenamiento, podemos lograr mejoras significativas en velocidad y rendimiento.

En última instancia, S2D representa un avance en hacer que el uso de modelos de lenguaje grandes sea más práctico para diversas aplicaciones, permitiendo una generación de texto más inteligente en diferentes tareas sin incurrir en costos adicionales.