Shengding Hu

ProSparse améliore la sparsité d'activation dans les LLM pour une meilleure efficacité et performance.

Examiner le grokking, la double descente et les capacités émergentes dans les modèles d'apprentissage profond.

Examiner comment les LLM peuvent additionner des chiffres sans étapes explicites.

MiniCPM-V améliore l'utilisation de l'IA sur les appareils mobiles avec efficacité et performances.

Une nouvelle méthode combine des modèles autoregressifs et de diffusion pour une meilleure génération de médias.