Le 11 mars 2026, Nvidia a présenté Nemotron 3 Super, un modèle de langage libre de 120 milliards de paramètres. Conçu pour des agents IA collaboratifs, il combine des innovations d’architecture pour offrir un raisonnement plus long et plus efficace.

Nvidia élargit sa famille de modèles ouverts Nemotron. Avec Nemotron 3 Super, l’entreprise propose un modèle de 120 milliards de paramètres dont 12 milliards sont actifs, utilisant une architecture hybride mêlant Mamba?2, Mixture?of?Experts (MoE) et attention. Selon Nvidia, cette combinaison offre une fenêtre de contexte d’un million de tokens et une capacité de prédiction multi?tokens, ce qui accélère sensiblement la génération de texte et réduit les erreurs liées à la « perte de contexte ».

L’architecture MoE permet d’activer seulement certains « experts » pour chaque requête, améliorant ainsi l’efficacité. Le modèle revendique une amélioration de plus de 5 fois du débit par rapport à la version précédente et cible des usages comme le développement logiciel ou la gestion de tickets de cybersécurité. Un article technique détaille les innovations : Latent MoE, prédiction multi?tokens et intégration d’un backbone Mamba?Transformer pour réduire la latence et maximiser l’utilisation des ressources.

Nemotron 3 Super est publié avec ses poids, ses jeux de données et ses recettes de formation. Les développeurs peuvent donc l’adapter sur leur propre infrastructure et l’utiliser pour créer des agents autonomes. Le modèle supporte plusieurs langues (anglais, français, allemand, italien, japonais, espagnol et chinois). En misant sur l’ouverture et l’efficacité, Nvidia espère démocratiser des capacités jusque?là réservées aux géants du secteur.

Sources

• Blog technique de Nvidia « Introducing Nemotron 3 Super: An Open Hybrid Mamba?Transformer MoE for Agentic Reasoning » (11 mars 2026).

• Fiche du modèle « NVIDIA?Nemotron?3?Super?120B?A12B?FP8 » sur Hugging Face (mise à jour le 11 mars 2026).