Unsloth
Anneau : ASSESS · Domaine : LLM_GENAI · Éditeur : Unsloth AI
Bibliothèque et interface locale pour entraîner et exécuter des LLM. Le fine-tuning LoRA et QLoRA, l'apprentissage par renforcement (GRPO, DPO) et l'export GGUF sont optimisés pour réduire la consommation de VRAM, avec une baisse annoncée allant jusqu'à 70 %. Unsloth Studio fournit une interface web et un serveur compatible API OpenAI est disponible.
Valeur métier
Outil pour les équipes data et ML qui veulent adapter un modèle ouvert à leurs données sur un GPU unique, sans infrastructure lourde. Les offres Pro et Enterprise ajoutent le multi-GPU, le multi-nœud et un support dédié.
Valeur IA
Réduire le coût matériel et le temps du fine-tuning de LLM ouverts, en local ou sur un GPU unique.
Tags : fine-tuning, lora, qlora, gpu, open-source