NVIDIA presenta Nemotron 3.5 Transcribe para audio grabado

Qué presentó NVIDIA

La propuesta técnica busca simplificar los flujos de trabajo en empresas que procesan reuniones, entrevistas o llamadas de soporte, consolidando múltiples herramientas especializadas en un único modelo multimodal. Sin embargo, su rendimiento práctico depende de la acústica del entorno, el idioma, la infraestructura de cómputo disponible y los procesos de revisión humana posterior.

Un modelo para grabaciones e instrucciones

De acuerdo con la ficha técnica publicada por NVIDIA, Nemotron 3.5 Transcribe opera sobre grabaciones offline y no está optimizado para flujos de transcripción por streaming en tiempo real.

El sistema admite contexto textual complementario junto con la grabación, lo que permite guiar la transcripción hacia glosarios técnicos específicos, vocabulario corporativo o nombres propios. Las marcas temporales (timestamps) pueden activarse de manera opcional para alinear el texto generado con la pista sonora.

Aunque el modelo puede realizar atribución de hablantes y extracción de acuerdos mediante un simple prompt, estas capacidades no eliminan la necesidad de contrastar afirmaciones sensibles directamente contra la grabación original antes de utilizarlas en actas formales o decisiones legales.

Tamaño y requisitos: activos no son totales

La arquitectura de Nemotron 3.5 Transcribe combina un codificador de audio con una red lingüística de 34.000 millones de parámetros, de los cuales aproximadamente 4.300 millones se activan en cada token durante la inferencia.

La ventana de contexto alcanza los 65.536 tokens, permitiendo procesar piezas de audio continuas de hasta 60 minutos. Es crucial notar que la cifra de parámetros activos describe la carga computacional por token, pero no reduce linealmente los requisitos de memoria VRAM para alojar el modelo completo: almacenar los pesos y los estados de atención depende de la precisión y cuantización empleada.

NVIDIA documenta ejemplos de referencia desplegados en aceleradores empresariales como GPUs H100 de 80 GB. Equipos locales o estaciones de trabajo requerirán cuantizaciones agresivas para ejecutarlo.

Versiones disponibles y diferencias entre canales oficiales

Existe una discrepancia informativa entre los canales oficiales de NVIDIA respecto a los formatos de distribución: mientras el blog corporativo señala que las versiones cuantizadas se lanzarán próximamente, la ficha técnica en el repositorio de Hugging Face ya lista variantes en BF16, FP8 y NVFP4.

Los equipos que planifiquen su adopción deben auditar los archivos binarios vigentes y los motores de inferencia compatibles (como TensorRT-LLM o vLLM) antes de presupuestar infraestructura. Además, la licencia de distribución es OpenMDW 1.1, que autoriza usos comerciales y de investigación conforme a sus condiciones específicas.