Lecture · veille du 14 octobre 2026
Exécutez rapidement, agents privés sur appareil avec LFM2.5-24B-A2B
Hugging Face Blog Publié le 13 octobre 2026 à 17:05 Angle technique Article en anglais pertinence 4 sur 5
Lire l'article original sur Hugging Face Blog, dans une nouvelle fenêtre
LFM2.5-24B-A2B est un agent de langage performant conçu pour fonctionner efficacement sur les appareils en local.
- Le modèle atteint une performance comparable à Qwen3.6-35B-A3B, un modèle avec 50% plus de paramètres, sur des tâches d'agent et d'utilisation d'outils.
- Il utilise uniquement 2 milliards de paramètres actifs par jeton, ce qui rend le raisonnement efficace en termes de ressources.
- L'inférence est rapide : 184 tokens/s sur un Apple M5 Max et jusqu'à 21 000 tokens/s sur une NVIDIA B300 GPU.
- Le contexte de la fenêtre a été augmenté à 131 000 tokens et le vocabulaire élargi à 128 000 tokens pour améliorer la tokenisation non latine.
LFM2.5-24B-A2B est un modèle de langage développé par Liquid AI, optimisé pour les tâches d'agent et l'utilisation d'outils. Il se distingue par sa performance compétitive par rapport à des modèles plus grands comme Qwen3.6-35B-A3B, tout en étant conçu pour une inférence efficace sur les appareils, notamment grâce à son architecture MoE (Mixture of Experts).
Le modèle est basé sur LFM2-24B-A2B et a été entraîné sur un ensemble de données massif, initialement 17 téraoctets puis augmenté à 33 téraoctets et enfin 2 téraoctets avec un contexte de 32k tokens, suivi de 300 milliards de tokens avec un contexte de 131k tokens. Son entraînement intègre des phases de fine-tuning supervisé, de distillation et d'apprentissage par renforcement pour optimiser ses capacités en matière de raisonnement, de mathématiques, de code, de suivi des instructions et de texte multilingue.
LFM2.5-24B-A2B se caractérise par sa rapidité d'inférence, atteignant 184 tokens/s sur un Apple M5 Max et jusqu'à 21 000 tokens/s sur une NVIDIA B300 GPU. Il est compatible avec plusieurs frameworks d'inférence comme llama.cpp, MLX, vLLM et SGLang, et peut être déployé localement pour des applications nécessitant des agents autonomes.
La disponibilité du modèle a été facilitée par un support dès le lancement sur l'écosystème d'inférence et son accès via Hugging Face. Des tutoriels et guides sont disponibles pour faciliter son utilisation, son adaptation à des tâches spécifiques et son intégration dans divers harnesses tels qu'Hermes Agent ou OpenClaw.
Mots-clés : Llama 2quantificationinférence locale
Transparence : synthèse en français produite automatiquement par un modèle de langage local (gemma3:4b (Ollama, local sur le VPS)), non révisée. Le texte intégral reste chez l'éditeur d'origine.