Simple Science

Ciencia de vanguardia explicada de forma sencilla

# Informática# Arquitectura de hardware

Avances en Computación y Almacenamiento Sin Servidor

Explorando un nuevo modelo para aplicaciones sin servidor rápidas y eficientes.

― 6 minilectura


Avance en Computación SinAvance en Computación SinServidoresalmacenamiento eficientes.sin servidor con soluciones deEl nuevo modelo mejora las aplicaciones
Tabla de contenidos

La computación sin servidores se está volviendo más popular en el mundo de los servicios en la nube. Permite a los desarrolladores ejecutar código sin tener que gestionar servidores. Esto es genial porque ahorra tiempo y recursos. Empresas como Amazon, Google y Microsoft ofrecen opciones sin servidores que brindan flexibilidad y ahorro en costos. Los usuarios solo pagan por los recursos de computación que realmente utilizan, haciendo de esto una opción atractiva para muchas empresas.

Cambios en los Centros de Datos

A medida que la computación sin servidores gana popularidad, los centros de datos también están cambiando. Están ocurriendo dos tendencias principales: la separación del almacenamiento de los recursos de computación y el uso de hardware especializado para acelerar tareas.

  1. Desagregación del Almacenamiento: Esto significa que el almacenamiento y la computación ya no están tan ligados. En cambio, los datos pueden almacenarse por separado de los servidores que los utilizan. Esto permite un mejor uso de los recursos, pero también trae algunos desafíos, especialmente cuando se trata de acceder y mover datos.

  2. Aceleradores específicos de dominio: Estos son piezas de hardware especiales diseñadas para acelerar tareas específicas. Se utilizan en muchos centros de datos de proveedores de la nube para mejorar el rendimiento. Sin embargo, usarlos en computación sin servidores puede ser complicado ya que las funciones sin servidores a menudo manejan datos de corta duración que necesitan ser accedidos rápidamente.

El Desafío

Aunque ambas tendencias ofrecen beneficios, combinarlas puede llevar a ineficiencias. Cuando las funciones sin servidores necesitan acceder a almacenamiento separado, puede tardar. Esto puede eclipsar las ventajas que proporciona el hardware especializado. Por lo tanto, es crucial encontrar una manera de integrar estos avances de manera efectiva.

Solución Propuesta: Almacenamiento Computacional Específico de Dominio

Para abordar estos problemas, sugerimos un nuevo enfoque llamado Almacenamiento Computacional Específico de Dominio para la Computación Sin Servidores. Básicamente, este modelo combina almacenamiento y computación colocando pequeños aceleradores programables justo al lado de los dispositivos de almacenamiento.

Haciendo esto, podemos minimizar el tiempo que se tarda en transferir datos entre el almacenamiento y los recursos de computación. Estos aceleradores están diseñados para tareas específicas, lo que significa que pueden procesar datos rápidamente sin requerir mucha energía.

Beneficios del Modelo Propuesto

  1. Aumento del Rendimiento: Al reducir la distancia que los datos tienen que viajar, podemos reducir significativamente la latencia. Esto significa que las tareas pueden completarse más rápido.

  2. Eficiencia Energética: Usar pequeños aceleradores nos permite mantenernos dentro de límites de energía ajustados mientras seguimos proporcionando capacidades computacionales.

  3. Rentabilidad: La combinación de velocidad y eficiencia energética ayuda a reducir los costos operativos, haciendo de esto una opción financieramente atractiva para las empresas.

Cómo Funciona

Resumen de la Arquitectura

El modelo propuesto utiliza una unidad de almacenamiento computacional que contiene un pequeño acelerador. Este acelerador se comunica directamente con la unidad de almacenamiento a través de un enlace dedicado. Cuando una función sin servidores necesita ejecutarse, puede acceder al almacenamiento y usar el acelerador justo allí, evitando largas transferencias de red.

Desglose de Operaciones

Las aplicaciones sin servidores constan de múltiples funciones que se pueden ejecutar en secuencia. Cada función puede procesar datos y devolver salidas. En configuraciones tradicionales, cada función sacaría datos de un lugar de almacenamiento remoto, lo que llevaría a retrasos. Sin embargo, en nuestro modelo propuesto, el acelerador procesa datos justo al lado de donde se almacenan, lo que lleva a una mayor velocidad y eficiencia.

Cambios Mínimos Requeridos

Este nuevo modelo está diseñado para adaptarse a los marcos existentes de computación sin servidores sin requerir cambios sustanciales. Al aprovechar herramientas estándar de despliegue y ofrecer una manera de marcar funciones que pueden beneficiarse de la aceleración, es posible integrar mejoras sin problemas en los sistemas actuales.

Evaluando el Rendimiento

Aplicaciones del Mundo Real

La efectividad del modelo propuesto se ha probado utilizando ocho aplicaciones del mundo real. Estas aplicaciones muestran una mejora significativa en el rendimiento al usar el nuevo sistema en comparación con las configuraciones tradicionales.

Resultados

Las evaluaciones han demostrado que integrar un pequeño acelerador con almacenamiento computacional puede llevar a un mejor rendimiento que usar GPUs de alta gama. Esto se debe principalmente a la reducción de los retrasos en el movimiento de datos.

Desafíos y Consideraciones

Si bien el nuevo modelo presenta muchas ventajas, aún hay desafíos que deben abordarse:

  1. Restricciones de Energía: Los aceleradores necesitan operar dentro de límites de energía específicos. Esto requiere un diseño cuidadoso para garantizar que puedan manejar diversas cargas de trabajo sin exceder estos límites.

  2. Integración de Software: Aunque se necesitan cambios mínimos, la integración con sistemas de software existentes aún requiere una planificación cuidadosa para evitar interrupciones.

  3. Variabilidad del Hardware: El sistema debe acomodar diferentes tipos de hardware, lo que puede complicar las configuraciones.

Direcciones Futuras

En el futuro, el enfoque se centrará en perfeccionar aún más el diseño de aceleradores específicos de dominio para cubrir una gama más amplia de aplicaciones más allá de solo funciones sin servidores. Hay potencial para explorar optimizaciones para varios tipos de tareas de procesamiento de datos, lo que puede expandir la usabilidad del modelo.

Ampliando los Dominios de Aplicación

Los hallazgos sugieren que las tareas de aprendizaje automático se benefician especialmente de los aceleradores debido a sus necesidades computacionales. El trabajo futuro podría centrarse en mejorar el rendimiento del modelo en otros dominios que requieren procesamiento de datos rápido, como análisis de grandes datos y procesamiento de datos en tiempo real.

Conclusión

La llegada de la computación sin servidores, junto con los cambios en la arquitectura de los centros de datos, presenta oportunidades emocionantes así como desafíos. El Almacenamiento Computacional Específico de Dominio para la Computación Sin Servidores tiene como objetivo unir las ventajas de la desagregación del almacenamiento y la aceleración de hardware especializado para crear un entorno de computación más eficiente y potente. Al reducir la latencia, mejorar la eficiencia energética y ofrecer un ahorro significativo en costos, este modelo puede transformar potencialmente la forma en que se diseñan y despliegan las aplicaciones sin servidores, allanando el camino para futuros avances en el campo.

Fuente original

Título: In-Storage Domain-Specific Acceleration for Serverless Computing

Resumen: While (1) serverless computing is emerging as a popular form of cloud execution, datacenters are going through major changes: (2) storage dissaggregation in the system infrastructure level and (3) integration of domain-specific accelerators in the hardware level. Each of these three trends individually provide significant benefits; however, when combined the benefits diminish. Specifically, the paper makes the key observation that for serverless functions, the overhead of accessing dissaggregated persistent storage overshadows the gains from accelerators. Therefore, to benefit from all these trends in conjunction, we propose Domain-Specific Computational Storage for Serverless (DSCS-Serverless). This idea contributes a serverless model that leverages a programmable accelerator within computational storage to conjugate the benefits of acceleration and storage disaggregation simultaneously. Our results with eight applications shows that integrating a comparatively small accelerator within the storage (DSCS-Serverless) that fits within its power constrains (15 Watts), significantly outperforms a traditional disaggregated system that utilizes the NVIDIA RTX 2080 Ti GPU (250 Watts). Further, the work highlights that disaggregation, serverless model, and the limited power budget for computation in storage require a different design than the conventional practices of integrating microprocessors and FPGAs. This insight is in contrast with current practices of designing computational storage that are yet to address the challenges associated with the shifts in datacenters. In comparison with two such conventional designs that either use quad-core ARM A57 or a Xilinx FPGA, DSCS-Serverless provides 3.7x and 1.7x end-to-end application speedup, 4.3x and 1.9x energy reduction, and 3.2x and 2.3x higher cost efficiency, respectively.

Autores: Rohan Mahapatra, Soroush Ghodrati, Byung Hoon Ahn, Sean Kinzer, Shu-ting Wang, Hanyang Xu, Lavanya Karthikeyan, Hardik Sharma, Amir Yazdanbakhsh, Mohammad Alian, Hadi Esmaeilzadeh

Última actualización: 2024-03-23 00:00:00

Idioma: English

Fuente URL: https://arxiv.org/abs/2303.03483

Fuente PDF: https://arxiv.org/pdf/2303.03483

Licencia: https://creativecommons.org/licenses/by/4.0/

Cambios: Este resumen se ha elaborado con la ayuda de AI y puede contener imprecisiones. Para obtener información precisa, consulte los documentos originales enlazados aquí.

Gracias a arxiv por el uso de su interoperabilidad de acceso abierto.

Más de autores

Artículos similares