Yuhong Li

新しい方法でKVキャッシュサイズを減らしつつ、高いモデルパフォーマンスを維持できる。

この記事では、大規模言語モデルの効率を改善する最近の進展について話してるよ。