Paolo Glorioso

BlackMamba combina modelli di stato-spazio e miscele di esperti per compiti linguistici efficienti.

Zamba è un modello di linguaggio ibrido che combina architetture a stato spaziale e transformer.

Zyda, un dataset con 1,3 trilioni di token, migliora l'addestramento dei modelli di linguaggio.

Una panoramica sulla diffusione attraverso modelli di gas reticolari e effetti non lineari.