# Réglage de LayerNorm Le réglage de LayerNorm ([LN Tuning](https://huggingface.co/papers/2312.11420)) est une méthode PEFT qui n’ajuste que les paramètres des couches LayerNorm d’un modèle. L’article a testé les performances de cette méthode sur de grands modèles de langage et a démontré qu’elle peut atteindre de bonnes performances avec une réduction significative du nombre de paramètres entraînables et de l’utilisation de la mémoire GPU. Toutefois, la méthode n’est pas limitée aux modèles de langage et peut être appliquée à tout modèle utilisant des couches LayerNorm. Dans cette implémentation, par défaut, toutes les couches layernorm à l’intérieur d’un modèle sont ajustées, mais il est possible de cibler d’autres types de couches, tels que les couches `MLP` ou `Attention`. Il suffit pour cela de spécifier les `target_modules` dans le `LNTuningConfig`. L'abstract de l'article est : *Cet article présente une stratégie efficace pour transformer les grands modèles de langage (LLM) en grands modèles de langage multimodaux (MLLM). En conceptualisant cette transformation comme un processus d'adaptation de domaine, c'est-à-dire le passage de la compréhension du texte à l'intégration de plusieurs modalités, nous notons avec intérêt que, au sein de chaque bloc d'attention, l'ajustement de LayerNorm suffit à obtenir de solides performances. De plus, lorsqu'il est comparé à d'autres approches d'ajustement telles que l'ajustement complet des paramètres ou LoRA, ses avantages en termes d'efficacité sont considérables. Par exemple, par rapport à LoRA à l'échelle d'un modèle de 13B, les performances peuvent être améliorées en moyenne de plus de 20 % sur cinq tâches multimodales, tout en réduisant significativement le nombre de paramètres ajustables de 41,9 % et en diminuant l'utilisation de la mémoire GPU de 17,6 %. En plus de cette stratégie LayerNorm, nous démontrons que l'ajustement sélectif uniquement avec des données conversationnelles peut améliorer encore davantage l'efficacité. Au-delà de ces résultats empiriques, nous fournissons une analyse complète pour explorer le rôle de LayerNorm dans l'adaptation des LLM au domaine multimodal et l'amélioration de la puissance expressive du modèle.* ## Aperçu des benchmarks