Zhenmei Shi

ニューラルネットワークの性能と応用におけるソフトマックスの重要性を探る。

新しい方法が言語モデルの注意メカニズムを強化して、パフォーマンスを向上させるよ。

拡散モデルの基本とさまざまな分野での応用を探る。

テンソルアテンションを探って、AIモデルのデータ処理への影響について。

大きなモデルが小さいモデルに比べてインコンテキスト学習で苦戦する理由を調べる。

革新的な手法を使った言語モデルのファインチューニングの進展。

現在のモデルは空間的推論が苦手で、画像よりもテキストに頼っているんだ。

AIにおけるユーザーデータ保護のための差分プライバシーとNTK回帰の検討。

AIアプリケーションでセンシティブな情報を守るための差分プライバシーの探求。

複合タスクを簡単なタスクと組み合わせて、LLMがどんなパフォーマンスをするかを探る。

新しい方法がジョンエリプソイド計算を強化しながら、センシティブなデータを守るんだ。

SparseGPTは、パラメータのプルーニングによって大規模言語モデルの速度と効率を向上させるよ。

新しいアプローチが勾配計算を強化して、機械学習のトランスフォーマー効率を向上させる。

長いテキスト入力の効率を高める言語モデルの方法。

Transformer技術が言語理解における能力と課題を探る。

MHNが機械学習をどうやって強化できるかをもっと詳しく見てみよう。

AIの能力におけるMambaと状態空間モデルの考察。

テンソルアテンションがAIの言語処理をどう変えるかを知ってみよう。

新しい方法がRoPEアテンションを改善して、AIの計算を大幅に速くしてるよ。