JOURNAL / 2026.10.19
Nemotron 3.5 Bolt lleva agentes al equipo local, con condiciones para sus 24 GB
NVIDIA comprime Super VL para crear un modelo local con pesos descargables. El avance está en diseñar capacidad para una memoria limitada; el informe técnico aclara qué incluye ese presupuesto y qué demuestran las pruebas de velocidad.
NVIDIA publicó Nemotron 3.5 Super VL y Bolt 74B-A9B el 15 de octubre. El primero reúne razonamiento, visión y herramientas para agentes especializados; el segundo traslada parte de esa capacidad a equipos locales mediante compresión y cuantización. Ambos están disponibles con pesos descargables. Bolt E4B, la variante más pequeña anunciada junto a ellos, tiene fecha prevista del 23 de octubre: todavía no forma parte de lo disponible.
La novedad más interesante es cómo se llega al modelo local. La ficha de Super VL describe 120.000 millones de parámetros totales, 12.000 millones activos por token y entradas de texto, imágenes y vídeo, con salida textual. Los pesos BF16 sirven como referencia para evaluación y adaptación; hay otra versión optimizada para inferencia. No conviene trasladar los requisitos de una a la otra.
La explicación técnica de Bolt cuenta una transformación más profunda que guardar los mismos pesos con menos bits. Primero reduce la arquitectura de Super VL a 74.000 millones de parámetros, unos 9.000 millones activos, y recupera capacidades mediante entrenamiento adicional. Después cuantiza los expertos a unos dos bits y vuelve a entrenar para compensar la pérdida de precisión. Otros componentes conservan precisiones mayores. La idea práctica es partir de un modelo grande y adaptarlo a un presupuesto de memoria, en lugar de tratar la compresión como el último trámite antes de distribuirlo.
Eso no conserva intactas todas las capacidades del original. Las evaluaciones publicadas muestran compromisos entre Super VL, Bolt BF16 y Bolt cuantizado. Me parece una dirección útil precisamente porque permite examinar esos pasos por separado: una aplicación podría aceptar una pérdida pequeña en razonamiento general si mantiene sus operaciones concretas, pero no debería darlo por hecho.
Qué cabe realmente en los 24 GB
El informe de Bolt, apartado 8.2 estima 23,83 GB para una configuración con una secuencia, 131.072 tokens de contexto y un modelo auxiliar de generación especulativa. El cálculo incluye pesos, cachés y activaciones, pero excluye expresamente el codificador visual y su proyector: ese objetivo cubre servicio de texto. Es una estimación de despliegue, no una medición nuestra ni una garantía para cualquier tarjeta de 24 GB.
La tarjeta de Bolt declara hasta 256.000 tokens de contexto compartidos por instrucciones, entradas visuales, historial, herramientas y respuesta. Advierte que las recetas pueden reducirlo según memoria y concurrencia. Por tanto, «modelo multimodal», «contexto máximo» y «24 GB» no describen necesariamente una misma configuración simultánea. Para trabajar con capturas de pantalla o vídeo hay que presupuestar también la parte visual.
La velocidad exige otra lectura cuidadosa. La tabla de rendimiento de NVIDIA mide Bolt y varios Qwen y Gemma sobre el mismo RTX Spark de 128 GB, con llama.cpp y sus respectivos mecanismos de generación especulativa. Bolt supera a Qwen3.8 27B en esas pruebas, pero queda por detrás de Qwen3.6 35B-A3B y Gemma 4 26B-A4B. No es una victoria universal. Además, AA-AgentPerf Local reproduce conversaciones grabadas: mide cómo las sirve el equipo, sin evaluar la calidad de las respuestas. Sus tiempos no prueban que un agente resuelva correctamente antes un encargo nuevo.
Los pesos se ofrecen bajo OpenMDW 1.1. La licencia permite utilizar y modificar los materiales; al redistribuir exige conservar el acuerdo y los avisos pertinentes. La apertura facilita adaptar el modelo y mantener una versión propia. No elimina el trabajo de integrar herramientas ni convierte automáticamente en privado un agente que consulta servicios externos.
Mi lectura es que Bolt amplía una opción concreta: ejecutar un asistente con herramientas donde la memoria disponible es una restricción central. Para decidir si compensa, compararía primero la configuración de texto y después añadiría visión, con los mismos documentos y operaciones. Mediría memoria máxima, aciertos y recuperación tras errores. Si la versión comprimida obliga a más correcciones o a delegar fuera las tareas difíciles, ese coste también cuenta. La aportación de NVIDIA merece atención por hacer inspeccionable el camino hasta un agente local; su utilidad se decidirá en el trabajo que consiga conservar después de comprimirlo.
Fuentes primarias consultadas el 19 de octubre de 2026. No hemos ejecutado estos modelos; las estimaciones y comparaciones citadas proceden de NVIDIA.