El Allen Institute for AI (Ai2) anunció el lanzamiento oficial de TÜLU 3, una ambiciosa familia de modelos de lenguaje de código abierto disponibles en variantes de 8.000 y 70.000 millones de parámetros, acompañada por la liberación pública integral de sus recetas de entrenamiento, conjuntos de datos curados y código fuente. Desarrollado para democratizar el proceso de alineación post-entrenamiento (post-training) que habitualmente permanece bajo secreto industrial en laboratorios comerciales, TÜLU 3 combina aprendizaje por refuerzo con recompensas verificables (RLVR) en matemáticas y programación con optimización directa de preferencias (DPO) sobre retroalimentación humana de alta fidelidad, alcanzando o superando las métricas de rendimiento de Llama 3.1 Instruct en seguimiento de instrucciones complejas, razonamiento formal y seguridad algorítmica.
Capítulo 01
La noticia en una frase
El Allen Institute for AI (Ai2) publica TÜLU 3, una suite completamente abierta de modelos (8B y 70B), recetas y conjuntos de datos post-entrenados con RLVR y DPO que iguala el rendimiento de Llama 3.1 Instruct.
En pruebas estandarizadas sobre AlpacaEval 2 y Chatbot Arena Hard, TÜLU 3 70B alcanza una tasa de victorias ajustada por longitud del 51,4%, igualando a modelos propietarios como GPT-4o-mini y superando a Llama 3.1 70B Instruct en resolución de código en HumanEval.
Capítulo 02
