Álvaro Maureira

Artículo

Olmo-core 3: más expertos exigen memoria y coordinación

Publicado ·
Álvaro muestra un módulo junto a un inventario.
Álvaro Maureira · IA aplicada a marketing, ventas y negocios.

1. Qué anunció Ai2

El 1 de octubre de 2026, Ai2 anunció Olmo-core 3, una actualización abierta de su infraestructura para entrenar modelos de mezcla de expertos.

Las pruebas con enrutamiento aleatorio y los ensayos breves de capacidad no acreditan un modelo entrenado de billones. Son resultados del proveedor; no verificamos reproducción independiente, licencia ni costos.

El total describe los expertos disponibles; los activos indican cuáles intervienen en cada token. Los restantes todavía ocupan memoria.

Ai2 declara un benchmark: ocho a 128 expertos, cuatro activos y caída de throughput inferior al 5%.

Fuente: anuncio original de Ai2.

2. Dos cantidades diferentes

La explicación que sigue es original e hipotética. Imaginemos un sistema compuesto por bloques que transforman datos. Llamaremos experto a cada bloque del ejemplo, sin atribuirle una profesión ni una especialidad humana. Un selector decide qué bloques consultar en cada paso.

Cuando alguien dice que el sistema tiene muchos expertos, pregunta primero si habla del inventario disponible o de los elegidos para una entrada. Es como distinguir las estaciones instaladas en un laboratorio de las utilizadas para una muestra concreta: ambas cantidades importan, pero responden preguntas diferentes.

3. Un cálculo inventado

Supongamos dieciséis expertos con pesos de dos GiB cada uno y cuatro seleccionados por paso. Todos tienen el mismo tamaño y omitimos deliberadamente componentes compartidos. Estas cantidades son inventadas; no describen la configuración publicada ni una ejecución nuestra.

Cálculo propio bajo esos supuestos

Inventario: 16 × 2 GiB = 32 GiB de pesos.

Selección: 4 × 2 GiB = 8 GiB de pesos seleccionados.

El segundo resultado no convierte el primero en ocho. Tampoco es la memoria total necesaria para entrenar. La representación sirve únicamente para separar dos medidas dentro del supuesto: cuántos pesos existen y cuántos pertenecen a los bloques consultados en ese paso.

4. Reservar no es activar

Ahora asignemos esos bloques a varias máquinas. La primera decisión consiste en dónde conservar cada parte; la segunda, en cómo llegar hasta ella cuando sea necesaria. Anota ambas decisiones antes de comparar presupuestos que podrían incluir conceptos diferentes.

Para elaborar un presupuesto del ejemplo, abre una lista de conceptos separados: pesos, espacio temporal de trabajo y cualquier copia auxiliar que el diseño elegido conserve para actualizar valores. No pongas todo bajo una sola etiqueta de memoria activa.

Si una propuesta muestra únicamente el segundo número del cálculo, solicita también el primero y sus exclusiones. Esa pregunta permite detectar una comparación incompleta sin atribuir a un sistema concreto consumos que aquí no hemos medido.

5. El costo de repartir

En nuestro laboratorio imaginario, repartir estaciones también introduce recorridos. Un lote podría necesitar bloques situados en varias máquinas; otro, concentrarse en una sola. La cantidad de bloques seleccionados puede mantenerse mientras cambia la organización del trabajo.

Por eso el dibujo del ejemplo necesita flechas además de cajas. Anota qué se envía, a qué destino, cuándo debe regresar y qué parte espera mientras tanto. Si una máquina recibe casi todas las peticiones, la distribución merece atención aunque el inventario parezca equilibrado.

No deduzcas una duración a partir de esas flechas. Úsalas para formular una observación concreta: comprobar si el tiempo se concentra en calcular, trasladar datos o esperar a que otra parte termine.

6. Velocidad y calidad separadas

Hay dos preguntas distintas para nuestro experimento propuesto. Una pregunta cuánto trabajo completa la infraestructura bajo condiciones fijadas. La otra pregunta si el modelo resultante responde bien a las tareas para las que se lo quiere utilizar.

Un selector inventado que reparte entradas al azar puede ayudar a explorar recorridos del sistema. Eso no demuestra que aprenda a elegir bloques útiles. Del mismo modo, terminar una operación antes no establece que la respuesta posterior sea correcta.

Escribe ambas preguntas en casillas separadas antes de comparar propuestas. Si un resultado sólo responde una, deja la otra abierta. Así evitas transformar una prueba de capacidad en una promesa de utilidad para un caso diferente.

7. Elegir qué observar

Para convertir el esquema en una investigación acotada, el equipo del ejemplo debería acordar qué observaciones necesita. Una lista pequeña puede ordenar la conversación sin presentarse como un protocolo validado.

  • Inventario: bloques disponibles, tamaño supuesto y reparto entre máquinas.
  • Selección: bloques consultados por entrada y distribución de las peticiones.
  • Recorrido: datos enviados, destinos y puntos donde aparecen esperas.
  • Resultado: criterio de aceptación de la tarea, evaluado por separado.

No combines estas casillas en una puntuación única. Una mejora en una podría acompañarse de una dificultad en otra. La utilidad del registro es permitir una explicación: qué cambió, bajo qué condiciones y qué pregunta permanece sin contestar.

8. Comparar sin mezclar

Imagina que el equipo quiere contrastar dos repartos de los mismos bloques. Antes de intentarlo, debería fijar el conjunto de entradas, las operaciones pedidas y el criterio con el que decidirá si el resultado sirve.

Después puede cambiar una decisión del esquema y conservar las demás documentadas. Si modifica a la vez las máquinas, el reparto y las entradas, tendrá una observación conjunta; no debería atribuir toda diferencia a una sola causa.

Esta propuesta todavía no es una medición ni una reproducción del anuncio. Es una manera de preparar preguntas verificables. También deja espacio para un resultado incómodo pero útil: no disponer de evidencia suficiente para elegir entre las alternativas.

9. Decidir con límites claros

Para un equipo pequeño, la siguiente decisión no tiene por qué ser entrenar inmediatamente. Puede consistir en precisar el problema: explorar una arquitectura, estudiar un reparto o evaluar si existe una necesidad que justifique ese trabajo.

Conserva el cálculo junto a sus exclusiones. Cuando aparezca una cifra mayor, vuelve a preguntar si cambió el inventario, la selección por entrada o ambos. Cuando aparezca una cifra más rápida, pregunta qué recorrido y qué tarea se compararon.

La conclusión responsable será tan acotada como la evidencia disponible. Este ejemplo ayuda a leer una propuesta de infraestructura; no calcula su costo real ni garantiza su calidad.

Comparte tu pregunta en la Comunidad gratuita

Selección Inteligente