OpenAI anunció la liberación de Whisper Large-v3-Turbo, una versión profundamente optimizada y acelerada de su reconocido modelo de reconocimiento automático del habla (ASR) de pesos abiertos. Diseñado para ofrecer una velocidad de inferencia hasta 8 veces más rápida que el Whisper Large-v3 original con un impacto marginal en la tasa de error de palabras (WER), Large-v3-Turbo reduce drásticamente el número de capas del decodificador desde 32 hasta únicamente 4 capas, manteniendo íntegro el codificador de audio de 32 capas. Esta compresión arquitectónica permite desplegar transcripción y traducción de voz en tiempo real sobre casi 100 idiomas con un consumo de VRAM significativamente inferior a 6 GB, facilitando su integración en servidores de bajo costo y dispositivos locales.
Capítulo 01
La noticia en una frase
OpenAI lanza Whisper Large-v3-Turbo, reduciendo el decodificador a 4 capas para lograr una velocidad 8x mayor con paridad de precisión en transcripción multilingüe.
En evaluaciones independientes sobre múltiples benchmarks multilingües (Common Voice, FLEURS y LibriSpeech), Whisper Large-v3-Turbo alcanza un WER promedio dentro de 0,5 a 1 punto porcentual respecto a Large-v3, pero con un incremento de throughput de hasta 8x en inferencia por lotes y menor latencia por segmento de audio.
Capítulo 02
