AWS muestra cómo probar entrenamiento distribuido con Ray Train y EFA en Kubernetes
Amazon Web Services publicó una guía de referencia técnica para desplegar y ejecutar entrenamiento distribuido de modelos de lenguaje combinando el framework Ray Train, Deep Learning Containers y Elastic Fabric Adapter (EFA) sobre clústeres de Amazon Elastic Kubernetes Service (EKS). La demostración articula instancias aceleradas con múltiples GPU, interconexión de baja latencia a nivel de kernel y la estrategia FSDP (Fully Sharded Data Parallel) de PyTorch.
Límite metodológico: La guía de AWS utiliza secuencias de tokens generados sintéticamente para validar la comunicación inter-nodo y la convergencia operativa de la infraestructura; no certifica el entrenamiento de un modelo fundacional listo para producción con datos reales.
Publicada el 28 de octubre de 2026 por el equipo de Machine Learning de AWS, la arquitectura integra el operador KubeRay para gestionar pods de Ray en Kubernetes, junto con el conector AWS OFI NCCL sobre libfabric para evitar los cuellos de botella del protocolo TCP convencional en redes de centros de datos.
Arquitectura del entorno de pruebas: control y cómputo
La configuración de prueba implementada por AWS distribuye las responsabilidades en dos capas claramente diferenciadas dentro de la misma zona de disponibilidad (AZ):
| Componente de Infraestructura | Recursos de Cómputo Asignados | Rol Operacional en el Clúster |
|---|---|---|
| Nodo de Control (System) | Instancia CPU dedicada sin GPU. | Ejecuta el operador KubeRay y el nodo cabecera (Ray Head Node) para orquestación. |
| Nodos de Cómputo (Workers) | 2 instancias g6.12xlarge (8 GPU NVIDIA L4 en total). |
Alojan los pods de entrenamiento distribuido Ray Train y las réplicas del modelo Qwen2.5-1.5B. |
| Capa de Comunicación (Fabric) | Elastic Fabric Adapter (EFA) + NCCL OFI. | Canaliza operaciones colectivas AllReduce con latencia reducida y bypass del kernel del OS. |
| Estrategia de Particionado | PyTorch FSDP (Fully Sharded Data Parallel). | Fragmenta pesos, gradientes y estados del optimizador a través de las 8 GPU disponibles. |
Diferencial de rendimiento: EFA frente a TCP estándar
Según los resultados publicados por AWS en su escenario sintético, la utilización de la interfaz de red EFA logró duplicar el caudal de procesamiento (throughput medido en tokens por segundo) en comparación con una ejecución idéntica enrutada a través de sockets TCP estándar sobre la misma topología de instancias.
AWS advirtió que cualquier desalineación en las variables de entorno o dependencias de libfabric puede degradar silenciosamente la comunicación hacia TCP sin detener el proceso, recomendando utilizar la herramienta de diagnóstico all_reduce_perf para certificar que el tráfico fluya exclusivamente por la interfaz EFA.
Contenedores y versiones de software
La implementación se basa en la imagen oficial public.ecr.aws/deep-learning-containers/ray:train-ml-cuda-v1.1, la cual integra de forma preempaquetada Ray 2.58.0, PyTorch 2.13.0 y CUDA 13.0.2 con los controladores EFA certificados para evitar discrepancias de biblioteca.
Preguntas frecuentes
¿La prueba de AWS demuestra el entrenamiento de un modelo de producción?No. La demostración fue diseñada para verificar la infraestructura de red, KubeRay y FSDP empleando tokens sintéticos para medir caudal de datos y coordinación entre nodos sin costos asociados a conjuntos de datos masivos.
¿Qué instancias GPU se utilizaron en el clúster de referencia?Dos instancias g6.12xlarge, cada una equipada con 4 GPU NVIDIA L4 de 24 GB de memoria de video, sumando un total de 8 dispositivos acelerados.
El framework NCCL conmuta de manera predeterminada a sockets TCP convencionales, lo que permite que el trabajo termine pero con una severa degradación en la tasa de transferencia y mayores tiempos de espera.
Fuente oficial: AWS Machine Learning Blog, Distributed training with Ray Train, DLCs, and EFA on EKS (octubre 2026).
