Investigadores de Apple presentaron OpenELM (Open Efficient Language Models), una familia de modelos de lenguaje de código abierto disponibles en cuatro tamaños compactos: 270 millones, 450 millones, 1.100 millones y 3.000 millones de parámetros, diseñados específicamente para ejecutarse con máxima eficiencia y bajo consumo energético directamente en dispositivos de usuario final (on-device). La innovación central de OpenELM radica en su estrategia de escalado no uniforme de capas y cabezas de atención a lo largo de la red neuronal, lo que permite asignar mayor capacidad expresiva a las etapas críticas del procesamiento, superando a arquitecturas convencionales de tamaño equivalente como OLMo de AI2 en precisión y throughput en silicio móvil.
Capítulo 01
La noticia en una frase
Apple lanza OpenELM (270M a 3B parámetros), modelos de lenguaje de código abierto con escalado no uniforme para inferencia eficiente on-device.
En pruebas de rendimiento en tareas de razonamiento lingüístico (ARC, HellaSwag y MMLU), OpenELM 3B logra una mejora de 2,36% en precisión respecto a OLMo requiriendo la mitad de tokens de preentrenamiento gracias a su arquitectura estratificada.
Capítulo 02
El alcance que cambia la lectura
El procesamiento de IA en teléfonos, laptops y dispositivos wearables exige minimizar el consumo de batería y la huella de memoria RAM sin depender de la nube. OpenELM sienta las bases para asistentes personales privados que operan de forma 100% offline y con respuesta instantánea.
