Andy Garcia · dev freelance
FRENES
Volver al blog
Código abierto

NVIDIA puso «24GB» en el nombre de su nuevo modelo de agente local. La receta más pequeña de su model card se llama «28GB», para tarjetas gráficas de 32 GB o más

19 de octubre de 2026 8 min de lectura

El jueves 15 de octubre, NVIDIA lanzó Nemotron 3.5 Super VL, un modelo abierto de visión y lenguaje para agentes con 120.000 millones de parámetros, 12.000 millones de ellos activos por token, y una ventana de contexto de hasta 1 millón de tokens. Junto a él llegó Nemotron 3.5 Bolt 74B-A9B 24GB, un modelo de 74.000 millones de parámetros comprimido a partir de Super VL para ejecutar agentes en local. NVIDIA dijo que un tercer modelo, Bolt E4B 4GB, llegaría el 23 de octubre. Super VL está en Hugging Face, OpenRouter, ModelScope y como microservicio NVIDIA NIM. Bolt 74B-A9B está en Hugging Face.

El artículo de TechCrunch del 19 de octubre presentó el lanzamiento como NVIDIA empujando a las empresas a ejecutar sus propios modelos abiertos en sus propios centros de datos, y ofreciendo modelos locales a consumidores reacios a entregarle su vida a un asistente. Kari Briski, que firma la entrada de lanzamiento de NVIDIA, resumió el argumento para empresas en una línea: "las organizaciones pueden post-entrenar Super VL con sus propios datos, desplegarlo en su propia infraestructura y supervisar lo que construyen".

Esa frase apunta a gente como yo. Soy CTO de una LegalTech construida sobre Claude, y nuestros usuarios suben documentos que no enseñarían a un competidor. Un modelo abierto que pudiera ejecutar donde viven los datos es la segunda vía evidente. Así que dejé los adjetivos a un lado y leí las model cards y la licencia.

La licencia es la parte generosa

Ambos modelos se publican bajo el OpenMDW License Agreement, versión 1.1, publicado en openmdw.ai, un sitio de la Linux Foundation. Es corta. Concede permiso para "tratar los Model Materials sin restricción", incluso bajo derechos de autor, patentes, bases de datos y secretos comerciales. Si redistribuyes, conservas una copia del acuerdo y los avisos. Si demandas a alguien alegando que los materiales infringen una patente o un derecho de autor, tus derechos terminan. Y el acuerdo "no impone ninguna restricción ni obligación" sobre las salidas.

Eso es inusualmente limpio para este mes. Ese mismo 15 de octubre, la licencia de Meta para Muse Spark Open exigía el crédito "Built with Muse Spark Open" y remitía a Meta, para un acuerdo aparte, a los negocios de modelo como servicio con más de 20 millones de dólares de ingresos en doce meses. Los nuevos pesos Timestral de Mistral llegaron con una licencia "Modified MIT" que retira todos los derechos en cuanto los ingresos mensuales de tu empresa, o de tu empleador, superan los 20 millones de dólares. NVIDIA no trazó ninguna línea así.

La contrapartida cabe en una frase, en mayúsculas en el original: eres "el único responsable de (1) obtener los derechos de terceros". Leída junto a la model card, esa línea tiene contenido. La card de Super VL enumera datos de entrenamiento sintéticos generados con modelos Qwen, DeepSeek, Kimi, GLM y gpt-oss, filtrado con GPT-5.6 Sol y Gemini 3 Flash Preview, y una sección titulada "Private Non-publicly Accessible Datasets of Third Parties". La entrada de lanzamiento dice que el modelo "se entrega con pesos abiertos, conjuntos de datos abiertos y recetas de entrenamiento". Parte de los datos es abierta. No todos.

Para la mayoría de los productos, eso nunca importará. Para el cuestionario de proveedores de un despacho de abogados, es un párrafo que conviene tener en el expediente.

Comparable con Ultra, en algunas filas

La entrada de lanzamiento dice que Super VL es "comparable al modelo de razonamiento más grande de NVIDIA con aproximadamente una quinta parte de los parámetros", y el modelo agéntico abierto más rápido de su clase, "5 veces más rápido que el siguiente mejor". La propia tabla de benchmarks de NVIDIA, en la card de Hugging Face, es más matizada.

Frente a Nemotron 3 Ultra, Super VL gana en Terminal-Bench 2.1 (60,67 frente a 54,80), BrowseComp (78 frente a 67,85) y SWE-bench Pro (51,78 frente a 49,66). Va por detrás en SWE-bench Verified (71,10 frente a 73,9), IFBench (70,86 frente a 82,9) y tau2-bench telecom (73,19 frente a 83,0).

Una cautela sobre la primera de esas filas. En el lanzamiento, la card daba a Super VL 66,70 en Terminal-Bench 2.1. Actualizaciones de la card más tarde ese 15 de octubre, una de ellas titulada "Update numbers based on Tech Report", lo cambiaron a 60,67. Super VL sigue superando a Ultra en esa fila, pero una model card puede cambiar tras el lanzamiento, así que una cifra citada de una card necesita una fecha.

Frente a los otros seis modelos de la tabla, tiene la puntuación más baja en SWE-bench Verified y la más baja en tau2-bench telecom. En Terminal-Bench 2.1, Qwen3.8-Flash-Next obtiene 85,80 y GLM-5.3-Flash 82,70, frente a los 60,67 de Super VL.

La fila que me interesa está en otro sitio. El benchmark AA-Omniscience de Artificial Analysis incluye una tasa de alucinación: con qué frecuencia un modelo responde mal cuando debería haber admitido que no sabía. Cuanto más baja, mejor. En la tabla de NVIDIA, Super VL obtiene 30,0. Nemotron 3 Ultra obtiene 22,1, y los otros cinco modelos van de 30,3 a 95,9. En documentos, Super VL queda a la par de Qwen3.5-122B-A10B: 62,82 frente a 63,7 en MMLongBench-Doc, 68,12 frente a 68,3 en OCRBench v2 en inglés. La card señala que ambos benchmarks de documentos se ejecutaron con su implementación oficial o con un andamiaje interno que NVIDIA planea publicar como código abierto.

La entrada de lanzamiento abre con la "mayor precisión para agentes especializados siempre activos". La tabla de la card no muestra el modelo abierto más preciso. Muestra velocidad, un modelo que adivina menos que la mayoría de los modelos con los que se comparó, y una base pensada para ser post-entrenada. El último gráfico de la propia entrada de lanzamiento lo dice. En cinco tareas de clientes, versiones post-entrenadas de Super VL superan en precisión a Claude Opus 5, GPT-6.1 Sol, GPT-6 Luna o GPT-6 Astra, y en las cinco el modelo base parte por debajo del modelo cerrado con el que se compara. La ventaja viene del post-entrenamiento en la tarea de cada cliente. TechCrunch resumió esa comparación como Super VL completando tareas más rápido que los modelos de Anthropic y OpenAI, y señaló que tales afirmaciones son habituales en un lanzamiento; el gráfico se titula "Post-Training Delivers Leading Accuracy for Specialized Agents" y representa la precisión.

El blog técnico de NVIDIA añade cifras de clientes, sobre todo en futuro. El trabajo de Scale AI para Skydance "reducirá" el coste de inferencia 40 veces y la latencia 5 veces. Ramp "espera" hasta un 50 por ciento más de rendimiento y 10 veces menos latencia. NVIDIA dice que la versión de AI21 y Alice mejoró la precisión en inteligencia de amenazas y análisis de vulnerabilidades en un 41 por ciento; en el gráfico de lanzamiento, esos 41 son puntos porcentuales, de aproximadamente 35 a aproximadamente 76 por ciento.

El modelo "24GB" es un modelo de un solo usuario para una máquina grande

Bolt 74B-A9B mantiene 9.000 millones de sus 74.000 millones de parámetros activos por token. NVIDIA lo comprimió a partir de Super VL y cuantizó sus expertos a 2 bits, 2,0625 bits por parámetro, para "caber en 24 GB de memoria y ejecutarse junto a otras aplicaciones". La card dice que la búsqueda de compresión apuntaba a una huella inferior a 24 GB con tamaño de lote 1 y contexto de 128K.

La card de llama.cpp es más específica. Incluye dos recetas. La "receta de 28GB" ejecuta un contexto de 65.536 tokens y figura para una máquina RTX Spark de 64 GB o una GPU RTX dedicada de 32 GB o más. La "receta de 32GB" ejecuta el contexto completo de 262.144 tokens y figura para una RTX Spark de 128 GB o una GPU dedicada de 48 GB o más. Ambas sirven una sola secuencia concurrente. Una tarjeta gráfica de 24 GB no está en la lista, y el inicio rápido de vLLM también sirve una secuencia a la vez.

Nada de eso es un truco. "24GB" nombra al modelo, no a tu GPU. Pero la lista de hardware decide la compra, y las cifras de velocidad de NVIDIA para Bolt, en su página de investigación, se midieron con llama.cpp en un portátil RTX Spark de 128 GB. Bolt es un agente personal en una máquina de mucha memoria, pensado para los portátiles RTX Spark que NVIDIA dijo que llegarían el 16 de octubre. No es un servidor compartido para un equipo de diez.

Su tabla lleva el mismo matiz que la de Super VL. Frente a Qwen3.6-35B-A3B en precisión BF16 completa, Bolt gana en Terminal-Bench 2.1 (50,98 frente a 44,38) y BrowseComp (66,75 frente a 48,74). Va por detrás en PinchBench (87,82 frente a 88,07) y en la precisión de AA-Omniscience (16,90 frente a 19,47). La entrada de lanzamiento llama a Bolt "el modelo abierto n.º 1 de su clase en PinchBench". La página de investigación de NVIDIA define la clase: modelos "con una huella de memoria similar". El Qwen en BF16 de la tabla no es uno de ellos: 35.000 millones de parámetros a dos bytes cada uno son unos 70 GB de pesos.

Una nota al pie que me gustó. Qwen reportó 62,8 en MCP-Atlas para su modelo; NVIDIA midió 51,2 en las 500 tareas públicas; Bolt obtiene 52,20. La ventaja de Bolt en esa fila depende de quién ejecutó la prueba.

La card enumera inglés y código como idiomas principales, con español, francés, alemán, italiano y japonés "también compatibles". Construí BidForge, una IA que lee expedientes de licitaciones públicas francesas para pequeñas empresas. "También compatible" es algo que probaría con archivos reales, no que daría por supuesto.

Qué comprobaría antes de mover una carga de trabajo

Cinco cosas, ninguna cara.

El archivo de licencia del repositorio exacto que descargas, conservado con sus avisos si distribuyes los pesos. Luego pasa la frase sobre obtener los derechos y la sección de datos de terceros de la card a quien responda los cuestionarios de proveedores de tus clientes.

Una prueba de alucinación con tus propios documentos. Escribe preguntas cuya respuesta no esté en el archivo y cuenta cuántas veces el modelo lo dice. AA-Omniscience es la versión pública de esa prueba. La tuya es la que importará a tus clientes.

El hardware por usuario concurrente. La card BF16 enumera cuatro H100 o dos GB200 para Super VL. La versión NVFP4 funciona en un H200, dos H100, un GB200 o un DGX Spark, y la configuración vLLM del DGX Spark en la card sirve una secuencia. Antes de comparar una factura de GPU con una factura de API, cuenta usuarios simultáneos, no parámetros.

El idioma. Pasa tus archivos reales, en tu idioma, antes de fiarte de un benchmark en inglés.

Y la salida. Mantén el modelo detrás de un wrapper delgado, como configuración. No cambiaría un modelo de producción por una entrada de lanzamiento. Enrutaría una tarea bien medida al modelo abierto, compararía coste y errores por tarea completada, y decidiría con eso.

NVIDIA regaló la licencia más limpia de la semana. Las model cards son donde te dice qué necesitan los modelos y dónde van por detrás. Léelas antes que la entrada de lanzamiento.

Fuentes

¿Un proyecto del mismo estilo?

Diseño y despliego productos como este. Hablemos.

Hablemos