ReLUトランスフォーマーReLUトランスフォーマーのスパースさが明らかにされたての洞察。トレーニング中の隠れユニットの動きについ機械学習トレーニング中のReLUトランスフォーマーのスパース性を調べる研究によると、AIモデルのスパース性はトレーニング中にレイヤーごとにどう変わるかが分かったよ。2025-07-15T23:31:00+00:00 ― 1 分で読む