Simple Science

Scienza all'avanguardia spiegata semplicemente

# Informatica# Architettura hardware

Sviluppi nel computing e nello storage senza server

Esplorando un nuovo modello per applicazioni serverless veloci ed efficienti.

― 5 leggere min


Innovazione nel ComputingInnovazione nel ComputingServerlessarchiviazione efficienti.serverless con soluzioni diNuovo modello migliora le applicazioni
Indice

Il computing senza server sta diventando sempre più popolare nel mondo dei servizi cloud. Permette ai programmatori di eseguire codice senza doversi preoccupare dei server. È fantastico perché fa risparmiare tempo e risorse. Aziende come Amazon, Google e Microsoft offrono opzioni senza server che garantiscono flessibilità e risparmi sui costi. Gli utenti pagano solo per le risorse di calcolo che usano realmente, rendendolo una scelta allettante per molte aziende.

Cambiamenti nei Data Center

Con l'aumento della popolarità del computing senza server, anche i data center stanno cambiando. Due tendenze principali si stanno verificando: la separazione dello storage dalle risorse di calcolo e l'uso di hardware specializzato per accelerare i compiti.

  1. Disaggregazione dello Storage: Significa che lo storage e il calcolo non sono più strettamente legati. Invece, i dati possono essere memorizzati separatamente dai server che li usano. Questo permette un uso migliore delle risorse, ma porta anche alcune sfide, soprattutto quando si tratta di accedere e spostare i dati.

  2. Acceleratori specifici per dominio: Questi sono pezzi speciali di hardware progettati per velocizzare compiti specifici. Vengono utilizzati nei data center di molti fornitori di cloud per migliorare le performance. Tuttavia, usarli nel computing senza server può essere complicato poiché le funzioni senza server spesso gestiscono dati di breve durata che devono essere rapidamente accessibili.

La Sfida

Anche se entrambe le tendenze offrono vantaggi, combinarle può portare a inefficienze. Quando le funzioni senza server devono accedere a storage separati, può richiedere tempo. Questo può offuscare i vantaggi forniti dall'hardware specializzato. Pertanto, è fondamentale trovare un modo per integrare efficacemente questi progressi.

Soluzione Proposta: Storage Computazionale Specifico per Dominio

Per affrontare questi problemi, suggeriamo un nuovo approccio chiamato Storage Computazionale Specifico per Dominio per il Computing Senza Server. Fondamentalmente, questo modello combina storage e calcolo posizionando piccoli acceleratori programmabili proprio accanto ai dispositivi di storage.

Facendo così, possiamo ridurre al minimo il tempo necessario per trasferire dati tra lo storage e le risorse di calcolo. Questi acceleratori sono progettati per compiti specifici, il che significa che possono elaborare i dati rapidamente senza richiedere molta energia.

Vantaggi del Modello Proposto

  1. Aumento delle Performance: Riducendo la distanza che i dati devono percorrere, possiamo ridurre significativamente la latenza. Questo significa che i compiti possono essere completati più velocemente.

  2. Efficienza Energetica: Usare piccoli acceleratori ci consente di rimanere entro limiti di potenza rigorosi offrendo comunque capacità di calcolo.

  3. Convenienza Economica: La combinazione di velocità e efficienza energetica aiuta a ridurre i costi operativi, rendendolo un'opzione finanziariamente attraente per le aziende.

Come Funziona

Panoramica dell'Architettura

Il modello proposto utilizza un'unità di storage computazionale che contiene un piccolo acceleratore. Questo acceleratore comunica direttamente con l'unità di storage tramite un link dedicato. Quando una funzione senza server deve essere eseguita, può accedere allo storage e utilizzare l'acceleratore proprio lì, evitando lunghi trasferimenti di rete.

Suddivisione delle Operazioni

Le applicazioni senza server consistono in più funzioni che possono essere eseguite in sequenza. Ogni funzione può elaborare dati e restituire output. Nei setup tradizionali, ogni funzione prelevava dati da una posizione di storage remota, causando ritardi. Tuttavia, nel nostro modello proposto, l'acceleratore elabora i dati proprio accanto a dove sono memorizzati, portando a una maggiore velocità ed efficienza.

Cambiamenti Minimi Richiesti

Questo nuovo modello è progettato per adattarsi agli attuali framework senza server senza richiedere cambiamenti sostanziali. Sfruttando strumenti di deployment standard e offrendo un modo per contrassegnare le funzioni che possono beneficiare dell'accelerazione, è possibile integrare senza problemi i miglioramenti nei sistemi attuali.

Valutazione delle Performance

Applicazioni del Mondo Reale

L'efficacia del modello proposto è stata testata utilizzando otto applicazioni del mondo reale. Queste applicazioni mostrano un notevole miglioramento delle performance utilizzando il nuovo sistema rispetto ai setup tradizionali.

Risultati

Le valutazioni hanno dimostrato che integrare un piccolo acceleratore con storage computazionale può portare a performance migliori rispetto all'uso di GPU di alta gamma. Questo è principalmente dovuto alla riduzione dei ritardi nei movimenti dei dati.

Sfide e Considerazioni

Sebbene il nuovo modello presenti molti vantaggi, ci sono ancora sfide da affrontare:

  1. Vincoli di Potenza: Gli acceleratori devono operare entro limiti specifici di potenza. Questo richiede un design attento per garantire che possano gestire vari carichi di lavoro senza superare questi limiti.

  2. Integrazione del Software: Anche se sono necessari cambiamenti minimi, l'integrazione con i sistemi software esistenti richiede comunque una pianificazione attenta per evitare interruzioni.

  3. Variabilità dell'Hardware: Il sistema deve essere in grado di adattarsi a diversi tipi di hardware, il che può complicare i setup.

Direzioni Future

Andando avanti, l'attenzione sarà rivolta a perfezionare ulteriormente il design degli acceleratori specifici per dominio per coprire un'ampia gamma di applicazioni oltre alle sole funzioni senza server. C'è potenziale per esplorare ottimizzazioni per vari tipi di compiti di elaborazione dei dati, il che può ampliare l'usabilità del modello.

Espansione dei Domini di Applicazione

I risultati suggeriscono che i compiti di machine learning beneficiano in particolare degli acceleratori a causa delle loro esigenze computazionali. Il lavoro futuro potrebbe concentrarsi sul miglioramento delle performance del modello in altri domini che richiedono un'elaborazione rapida dei dati, come l'analisi dei big data e l'elaborazione dei dati in tempo reale.

Conclusione

L'arrivo del computing senza server, insieme ai cambiamenti nell'architettura dei data center, presenta opportunità entusiasmanti così come sfide. Lo Storage Computazionale Specifico per Dominio per il Computing Senza Server mira a unire i vantaggi della disaggregazione dello storage e dell'accelerazione hardware specializzata per creare un ambiente di calcolo più efficiente e potente. Riducendo la latenza, migliorando l'efficienza energetica e offrendo significativi risparmi sui costi, questo modello potrebbe trasformare il modo in cui le applicazioni senza server vengono progettate e implementate, aprendo la strada a futuri progressi nel settore.

Fonte originale

Titolo: In-Storage Domain-Specific Acceleration for Serverless Computing

Estratto: While (1) serverless computing is emerging as a popular form of cloud execution, datacenters are going through major changes: (2) storage dissaggregation in the system infrastructure level and (3) integration of domain-specific accelerators in the hardware level. Each of these three trends individually provide significant benefits; however, when combined the benefits diminish. Specifically, the paper makes the key observation that for serverless functions, the overhead of accessing dissaggregated persistent storage overshadows the gains from accelerators. Therefore, to benefit from all these trends in conjunction, we propose Domain-Specific Computational Storage for Serverless (DSCS-Serverless). This idea contributes a serverless model that leverages a programmable accelerator within computational storage to conjugate the benefits of acceleration and storage disaggregation simultaneously. Our results with eight applications shows that integrating a comparatively small accelerator within the storage (DSCS-Serverless) that fits within its power constrains (15 Watts), significantly outperforms a traditional disaggregated system that utilizes the NVIDIA RTX 2080 Ti GPU (250 Watts). Further, the work highlights that disaggregation, serverless model, and the limited power budget for computation in storage require a different design than the conventional practices of integrating microprocessors and FPGAs. This insight is in contrast with current practices of designing computational storage that are yet to address the challenges associated with the shifts in datacenters. In comparison with two such conventional designs that either use quad-core ARM A57 or a Xilinx FPGA, DSCS-Serverless provides 3.7x and 1.7x end-to-end application speedup, 4.3x and 1.9x energy reduction, and 3.2x and 2.3x higher cost efficiency, respectively.

Autori: Rohan Mahapatra, Soroush Ghodrati, Byung Hoon Ahn, Sean Kinzer, Shu-ting Wang, Hanyang Xu, Lavanya Karthikeyan, Hardik Sharma, Amir Yazdanbakhsh, Mohammad Alian, Hadi Esmaeilzadeh

Ultimo aggiornamento: 2024-03-23 00:00:00

Lingua: English

URL di origine: https://arxiv.org/abs/2303.03483

Fonte PDF: https://arxiv.org/pdf/2303.03483

Licenza: https://creativecommons.org/licenses/by/4.0/

Modifiche: Questa sintesi è stata creata con l'assistenza di AI e potrebbe presentare delle imprecisioni. Per informazioni accurate, consultare i documenti originali collegati qui.

Si ringrazia arxiv per l'utilizzo della sua interoperabilità ad accesso aperto.

Altro dagli autori

Articoli simili