DeepSeek presentó DeepSeek-V2-Lite, un modelo abierto de mezcla de expertos (MoE) de 15.700 millones de parámetros con 2.400 millones activos por token que implementa Multi-Head Latent Attention (MLA) para comprimir el KV Cache y maximizar el throughput de inferencia a bajo costo.
La noticia en una frase
DeepSeek liberó DeepSeek-V2-Lite, combinando 64 expertos de granularidad fina con Multi-Head Latent Attention para lograr inferencia de ultra-alta velocidad con una fracción del consumo de memoria.
