Soufiane Hayou

LoRA+ améliore la performance des modèles grâce à des taux d'apprentissage adaptés dans l'apprentissage profond.

Cette étude examine comment l'initialisation affecte le finetuning des modèles préentraînés en utilisant LoRA.