Tag: QLoRA

Fine-tuning LLM en Few-Shot : Adapter les modèles avec peu de données

Fine-tuning LLM en Few-Shot : Adapter les modèles avec peu de données

Découvrez comment adapter des LLM avec peu de données grâce au few-shot fine-tuning. Guide pratique sur LoRA, QLoRA et les stratégies pour réussir malgré la rareté des exemples.

Voir plus
Réduire l'empreinte mémoire pour héberger plusieurs LLMs

Réduire l'empreinte mémoire pour héberger plusieurs LLMs

Découvrez comment réduire l'empreinte mémoire des LLMs pour héberger plusieurs modèles sur un seul GPU. Techniques clés : QLoRA, distillation et innovations architecturales.

Voir plus