Utkarsh Saxena

Combinare SmoothQuant e GPTQ migliora l'efficienza e le prestazioni dei grandi modelli di linguaggio.

Eigen Attention migliora l'efficienza della memoria per i grandi modelli linguistici che elaborano testi lunghi.

ResQ ottimizza i grandi modelli linguistici, migliorando le prestazioni e riducendo i costi.