Utkarsh Saxena

SmoothQuantとGPTQを組み合わせると、大規模言語モデルの効率とパフォーマンスが向上するよ。

Eigen Attentionは、大きな言語モデルが長いテキストを処理する際のメモリ効率を改善する。

ResQは大規模言語モデルを最適化して、パフォーマンスを向上させ、コストを削減するよ。