Andy Garcia · dev freelance
FRENES
Retour au blog
Open source

NVIDIA a mis « 24GB » dans le nom de son nouveau modèle d'agent local. La plus petite recette de sa model card s'appelle « 28GB », pour des cartes graphiques de 32 Go et plus

19 octobre 2026 8 min de lecture

Le jeudi 15 octobre, NVIDIA a publié Nemotron 3.5 Super VL, un modèle ouvert vision-langage pour agents de 120 milliards de paramètres, dont 12 milliards actifs par token, avec une fenêtre de contexte allant jusqu'à 1 million de tokens. Avec lui est sorti Nemotron 3.5 Bolt 74B-A9B 24GB, un modèle de 74 milliards de paramètres compressé à partir de Super VL pour faire tourner des agents en local. NVIDIA a annoncé qu'un troisième modèle, Bolt E4B 4GB, suivrait le 23 octobre. Super VL est sur Hugging Face, OpenRouter, ModelScope et comme microservice NVIDIA NIM. Bolt 74B-A9B est sur Hugging Face.

Le papier de TechCrunch du 19 octobre présente ce lancement comme NVIDIA qui pousse les entreprises à faire tourner leurs propres modèles ouverts dans leurs propres data centers, et qui propose des modèles locaux aux particuliers méfiants à l'idée de confier leur vie à un assistant. Kari Briski, qui signe le billet de lancement de NVIDIA, résume l'argument pour les entreprises en une ligne : « les organisations peuvent post-entraîner Super VL sur leurs propres données, le déployer sur leur propre infrastructure et superviser ce qu'elles construisent ».

Cette phrase vise des gens comme moi. Je suis CTO d'une LegalTech construite sur Claude, et nos utilisateurs téléversent des documents qu'ils ne montreraient pas à un concurrent. Un modèle ouvert que je pourrais faire tourner là où se trouvent les données est la seconde voie évidente. J'ai donc laissé les adjectifs de côté et lu les model cards et la licence.

La licence est la partie généreuse

Les deux modèles sont publiés sous l'OpenMDW License Agreement, version 1.1, hébergé sur openmdw.ai, un site de la Linux Foundation. Elle est courte. Elle accorde la permission de « traiter les Model Materials sans restriction », y compris au titre du droit d'auteur, des brevets, des bases de données et du secret des affaires. Si tu redistribues, tu conserves une copie de l'accord et des mentions. Si tu poursuis quiconque en prétendant que les matériaux enfreignent un brevet ou un droit d'auteur, tes droits prennent fin. Et l'accord « n'impose aucune restriction ni obligation » sur les sorties.

C'est inhabituellement net pour ce mois. Ce même 15 octobre, la licence de Meta pour Muse Spark Open exigeait la mention « Built with Muse Spark Open » et renvoyait vers Meta, pour un accord séparé, les activités de modèle en tant que service dépassant 20 millions de dollars de revenus sur douze mois. Les nouveaux poids Timestral de Mistral sont arrivés avec une licence « Modified MIT » qui retire tous les droits dès que le revenu mensuel de ton entreprise, ou de ton employeur, dépasse 20 millions de dollars. NVIDIA n'a tracé aucune ligne de ce genre.

Le prix à payer tient en une phrase, en majuscules dans l'original : tu es « seul responsable de (1) obtenir les droits des tiers ». Lue à côté de la model card, cette ligne a un contenu. La card de Super VL liste des données d'entraînement synthétiques générées avec des modèles Qwen, DeepSeek, Kimi, GLM et gpt-oss, un filtrage avec GPT-5.6 Sol et Gemini 3 Flash Preview, et une section intitulée « Private Non-publicly Accessible Datasets of Third Parties ». Le billet de lancement dit que le modèle est « livré avec des poids ouverts, des jeux de données ouverts et des recettes d'entraînement ». Une partie des données est ouverte. Pas toutes.

Pour la plupart des produits, ça n'aura jamais d'importance. Pour le questionnaire fournisseur d'un cabinet d'avocats, c'est un paragraphe à garder dans le dossier.

Comparable à Ultra, sur certaines lignes

Le billet de lancement dit que Super VL est « comparable au plus grand modèle de raisonnement de NVIDIA pour environ un cinquième du nombre de paramètres », et le modèle agentique ouvert le plus rapide de sa catégorie, « 5 fois plus rapide que le suivant ». Le tableau de benchmarks de NVIDIA lui-même, sur la card Hugging Face, est plus nuancé.

Face à Nemotron 3 Ultra, Super VL mène sur Terminal-Bench 2.1 (60,67 contre 54,80), BrowseComp (78 contre 67,85) et SWE-bench Pro (51,78 contre 49,66). Il est derrière sur SWE-bench Verified (71,10 contre 73,9), IFBench (70,86 contre 82,9) et tau2-bench telecom (73,19 contre 83,0).

Une précaution sur la première de ces lignes. Au lancement, la card affichait 66,70 pour Super VL sur Terminal-Bench 2.1. Des mises à jour de la card plus tard ce 15 octobre, dont une intitulée « Update numbers based on Tech Report », ont changé ce chiffre en 60,67. Super VL devance toujours Ultra sur cette ligne, mais une model card peut changer après le lancement, donc un chiffre cité depuis une card doit porter une date.

Face aux six autres modèles du tableau, il a le plus bas score sur SWE-bench Verified et le plus bas sur tau2-bench telecom. Sur Terminal-Bench 2.1, Qwen3.8-Flash-Next obtient 85,80 et GLM-5.3-Flash 82,70, contre 60,67 pour Super VL.

La ligne qui m'intéresse est ailleurs. Le benchmark AA-Omniscience d'Artificial Analysis inclut un taux d'hallucination : la fréquence à laquelle un modèle répond faux alors qu'il aurait dû admettre qu'il ne savait pas. Plus bas, c'est mieux. Dans le tableau de NVIDIA, Super VL obtient 30,0. Nemotron 3 Ultra obtient 22,1, et les cinq autres modèles vont de 30,3 à 95,9. Sur les documents, Super VL est au niveau de Qwen3.5-122B-A10B : 62,82 contre 63,7 sur MMLongBench-Doc, 68,12 contre 68,3 sur OCRBench v2 en anglais. La card précise que les deux benchmarks documentaires ont été exécutés avec leur implémentation officielle ou un échafaudage interne que NVIDIA prévoit de publier en open source.

Le billet de lancement s'ouvre sur la « plus haute précision pour les agents spécialisés toujours actifs ». Le tableau de la card ne montre pas le modèle ouvert le plus précis. Il montre de la vitesse, un modèle qui devine moins que la plupart de ceux auxquels il est comparé, et une base conçue pour être post-entraînée. Le dernier graphique du billet de lancement le dit lui-même. Sur cinq tâches clients, des versions post-entraînées de Super VL battent Claude Opus 5, GPT-6.1 Sol, GPT-6 Luna ou GPT-6 Astra en précision, et dans les cinq cas le modèle de base démarre en dessous du modèle fermé auquel il est comparé. L'avance vient du post-entraînement sur la tâche de chaque client. TechCrunch a résumé cette comparaison en disant que Super VL accomplit des tâches plus vite que les modèles d'Anthropic et d'OpenAI, et a noté que de telles affirmations sont courantes au lancement ; le graphique s'intitule « Post-Training Delivers Leading Accuracy for Specialized Agents » et trace la précision.

Le blog technique de NVIDIA ajoute des chiffres clients, surtout au futur. Le travail de Scale AI pour Skydance « va diminuer » le coût d'inférence de 40 fois et la latence de 5 fois. Ramp « s'attend à » jusqu'à 50 % de débit en plus et 10 fois moins de latence. NVIDIA dit que la version d'AI21 et d'Alice a amélioré la précision en renseignement sur les menaces et en analyse de vulnérabilités de 41 pour cent ; sur le graphique de lancement, ces 41 sont des points de pourcentage, d'environ 35 à environ 76 pour cent.

Le modèle « 24GB » est un modèle mono-utilisateur pour une grosse machine

Bolt 74B-A9B garde 9 milliards de ses 74 milliards de paramètres actifs par token. NVIDIA l'a compressé à partir de Super VL et a quantifié ses experts sur 2 bits, soit 2,0625 bits par paramètre, pour « tenir dans 24 Go de mémoire et tourner à côté d'autres applications ». La card dit que la recherche de compression visait une empreinte inférieure à 24 Go avec une taille de lot de 1 et un contexte de 128K.

La card llama.cpp est plus précise. Elle fournit deux recettes. La « recette 28GB » fait tourner un contexte de 65 536 tokens et est listée pour une machine RTX Spark de 64 Go ou un GPU RTX dédié de 32 Go ou plus. La « recette 32GB » fait tourner le contexte complet de 262 144 tokens et est listée pour une RTX Spark de 128 Go ou un GPU dédié de 48 Go ou plus. Les deux servent une seule séquence concurrente. Une carte graphique de 24 Go n'est pas dans la liste, et le démarrage rapide vLLM ne sert lui aussi qu'une séquence à la fois.

Rien de tout ça n'est une ruse. « 24GB » désigne le modèle, pas ton GPU. Mais c'est la liste du matériel qui décide de l'achat, et les chiffres de vitesse de NVIDIA pour Bolt, sur sa page de recherche, ont été mesurés avec llama.cpp sur un portable RTX Spark de 128 Go. Bolt est un agent personnel sur une machine à grosse mémoire, conçu pour les portables RTX Spark que NVIDIA a dit attendre le 16 octobre. Ce n'est pas un serveur partagé pour une équipe de dix personnes.

Son tableau porte la même nuance que celui de Super VL. Face à Qwen3.6-35B-A3B en pleine précision BF16, Bolt mène sur Terminal-Bench 2.1 (50,98 contre 44,38) et BrowseComp (66,75 contre 48,74). Il est derrière sur PinchBench (87,82 contre 88,07) et sur la précision AA-Omniscience (16,90 contre 19,47). Le billet de lancement appelle Bolt « le modèle ouvert n°1 de sa catégorie sur PinchBench ». La page de recherche de NVIDIA définit la catégorie : les modèles « avec une empreinte mémoire similaire ». Le Qwen en BF16 du tableau n'en fait pas partie : 35 milliards de paramètres à deux octets chacun, cela fait environ 70 Go de poids.

Une note de bas de page que j'ai aimée. Qwen a annoncé 62,8 sur MCP-Atlas pour son modèle ; NVIDIA a mesuré 51,2 sur les 500 tâches publiques ; Bolt obtient 52,20. L'avance de Bolt sur cette ligne dépend de qui a passé le test.

La card liste l'anglais et le code comme langues principales, avec l'espagnol, le français, l'allemand, l'italien et le japonais « également pris en charge ». J'ai construit BidForge, une IA qui lit les dossiers d'appels d'offres publics français pour les petites entreprises. « Également pris en charge » est quelque chose que je testerais sur de vrais fichiers, pas que je supposerais.

Ce que je vérifierais avant de déplacer une charge de travail

Cinq choses, aucune coûteuse.

Le fichier de licence dans le dépôt exact que tu télécharges, conservé avec ses mentions si tu livres les poids. Puis transmets la phrase sur l'obtention des droits et la section sur les données de tiers de la card à la personne qui répond aux questionnaires fournisseurs de tes clients.

Un test d'hallucination sur tes propres documents. Écris des questions dont la réponse n'est pas dans le fichier et compte combien de fois le modèle le dit. AA-Omniscience est la version publique de ce test. Le tien est celui qui comptera pour tes clients.

Le matériel par utilisateur concurrent. La card BF16 liste quatre H100 ou deux GB200 pour Super VL. La version NVFP4 tourne sur un H200, deux H100, un GB200 ou un DGX Spark, et la configuration vLLM du DGX Spark sur la card sert une séquence. Avant de comparer une facture de GPU à une facture d'API, compte les utilisateurs simultanés, pas les paramètres.

La langue. Passe tes vrais fichiers, dans ta langue, avant de te fier à un benchmark en anglais.

Et la sortie. Garde le modèle derrière un wrapper fin, en configuration. Je ne remplacerais pas un modèle de production sur la foi d'un billet de lancement. J'enverrais une tâche bien mesurée vers le modèle ouvert, je comparerais le coût et les erreurs par tâche accomplie, et je déciderais là-dessus.

NVIDIA a offert la licence la plus propre de la semaine. Les model cards sont l'endroit où elle te dit ce dont les modèles ont besoin et sur quoi ils sont en retard. Lis-les avant le billet de lancement.

Sources

Un projet du même genre ?

Je conçois et déploie des produits comme celui-ci. Parlons-en.

Discutons