Google DeepMind presentó formalmente RecurrentGemma, una familia de modelos de lenguaje abiertos construida sobre la arquitectura Griffin que revoluciona el despliegue eficiente al fusionar capas de recurrencia lineal (LRUs) con mecanismos de autoatención local en ventanas deslizantes. Mientras que los modelos Transformer tradicionales requieren una memoria de claves y valores (KV cache) cuyo tamaño se expande de manera lineal con cada token generado en una sesión, RecurrentGemma mantiene un estado recurrente de tamaño estrictamente constante sin importar cuántos miles de tokens se procesen. Esta propiedad permite alcanzar velocidades de generación hasta dos veces superiores en secuencias extensas y reduce drásticamente el consumo de memoria en GPUs y TPUs, ofreciendo una solución abierta de alto rendimiento para inferencia continua en dispositivos con restricciones de hardware.
Capítulo 01
La noticia en una frase
Google DeepMind presenta RecurrentGemma, modelos basados en Griffin que combinan redes recurrentes y atención local con memoria fija en inferencia.
El modelo mantiene una huella de memoria KV constante durante la generación continua gracias a unidades lineales recurrentes optimizadas para aceleradores modernos.
Capítulo 02
