Utkarsh Saxena

Combinar o SmoothQuant com o GPTQ melhora a eficiência e o desempenho de modelos de linguagem grandes.

A Eigen Attention melhora a eficiência de memória para modelos de linguagem grandes processando textos longos.

A ResQ otimiza grandes modelos de linguagem, melhorando o desempenho e reduzindo custos.