Tianle Cai

新しい方法が追加の予測ヘッドを使ってLLMのテキスト生成を早めるよ。

プローブサンプリングは言語モデルの安全性テストの効率を向上させるよ。

新しい方法でKVキャッシュサイズを減らしつつ、高いモデルパフォーマンスを維持できる。

高解像度の画像とテキストを分析するためのコスト効率の良いアプローチ。

新しい方法が、活性化スパース性を使って大規模言語モデルの効率を向上させる。