NVIDIA ouvre Nemotron 3.5, du serveur aux agents locaux

Visuel officiel de NVIDIA Nemotron 3.5 Super VL et Bolt
Nemotron 3.5 couvre les agents multimodaux sur serveur et les usages locaux. Crédit : NVIDIA.

NVIDIA a publié le 15 octobre trois modèles ouverts Nemotron 3.5 destinés aux agents spécialisés. La gamme va d’un modèle multimodal de 120 milliards de paramètres pour les serveurs à une version de 4 Go conçue pour les assistants locaux et les interfaces embarquées.

Le modèle principal, Nemotron 3.5 Super VL 120B-A12B, associe compréhension du texte, des images, des pages web et des documents structurés. NVIDIA le destine aux agents capables d’enchaîner des outils et des tâches métier longues. Ses poids, ses jeux de données et ses recettes d’entraînement sont publiés, ce qui permet aux entreprises de le personnaliser et de l’exécuter sur leur propre infrastructure.

Un modèle multimodal pour les agents spécialisés

Super VL vise notamment la lecture de tableaux, de graphiques et de formulaires. Un agent peut ainsi analyser un PDF, extraire ses données, puis utiliser ces informations dans un autre outil sans passer par plusieurs modèles distincts. NVIDIA indique avoir entraîné la famille sur environ 26 000 milliards de tokens, puis utilisé près de 3,8 millions d’exemples pour le post-entraînement et l’apprentissage par renforcement.

Le constructeur avance un débit jusqu’à cinq fois supérieur à celui des autres modèles ouverts de sa catégorie sur le classement Artificial Analysis. Cette comparaison vient de NVIDIA et doit être interprétée avec prudence, car les performances réelles dépendent du matériel, de la quantification et du type de tâche. Le groupe annonce aussi des personnalisations chez Atlassian, CrowdStrike, Dassault Systèmes, Perplexity et plusieurs acteurs de la finance et de la santé.

Deux versions Bolt pour travailler en local

Nemotron 3.5 Bolt 74B-A9B 24GB utilise une quantification native sur deux bits afin de tenir dans 24 Go de mémoire. Il peut fonctionner sur des PC GeForce RTX, des stations DGX Spark et des machines RTX Pro. L’objectif est de traiter localement des recherches, du développement logiciel ou des tâches d’agent sans envoyer systématiquement les données vers le cloud.

Une version plus compacte, Bolt E4B 4GB, cible les agents conversationnels rapides. NVIDIA cite les assistants vocaux, les personnages interactifs et les interfaces embarquées sur Jetson. Ce modèle doit être disponible le 23 octobre, tandis que Super VL et Bolt 74B sont accessibles dès maintenant sur Hugging Face et via les outils NVIDIA.

L’ouverture comme argument industriel

La sortie de Nemotron 3.5 renforce la stratégie de NVIDIA au-delà des accélérateurs. L’entreprise fournit le modèle, les données de post-entraînement, les environnements d’apprentissage par renforcement, le service NIM et la couche d’inférence Dynamo. Elle cherche ainsi à couvrir toute la chaîne d’un agent, depuis sa personnalisation jusqu’à son exploitation.

Pour les entreprises, l’intérêt principal réside dans le contrôle du déploiement et des données. Un modèle ouvert et exécutable sur site peut répondre à des contraintes de confidentialité ou de résidence des données. Il ne supprime toutefois pas les coûts d’intégration, d’évaluation et de supervision. Les chiffres de vitesse annoncés devront aussi être confirmés sur des charges réelles, en dehors des configurations optimisées par NVIDIA.

Cette gamme illustre enfin une tendance nette : les fournisseurs ne proposent plus un seul grand modèle généraliste, mais plusieurs tailles adaptées au serveur, au poste de travail et à l’edge. Le choix se déplace alors vers un compromis entre précision, vitesse, mémoire disponible et contrôle opérationnel.

Fiches Robodex citées

Le briefing RoboActu

L’essentiel de la robotique, une fois par semaine.

Une sélection courte des annonces, usages et robots à suivre.

Continuer sur ce sujet

Comparer les robots