Together AI liberó RedPajama Data v2, un corpus abierto de preentrenamiento masivo compuesto por más de 30 billones de tokens filtrados y enriquecido con más de 40 anotaciones de calidad por documento, permitiendo a investigadores construir datasets personalizados para el entrenamiento de LLMs soberanos.
La noticia en una frase
Together AI presentó RedPajama Data v2, el conjunto abierto de datos de preentrenamiento más extenso hasta la fecha con 30 billones de tokens y metadatos de calidad detallados.
