Artículo
Anthropic examina los límites de la autorreplicación con IA
Anthropic publicó el 12 de octubre una investigación sobre autorreplicación de IA. El trabajo distingue resultados de laboratorio de una eventual capacidad fuera de ese entorno.
Qué evaluó Anthropic
Según William Zhou y Daniel Freeman, un modelo de 9.000 millones de parámetros consiguió preparar inferencia en ocho de nueve tipos de hardware. Eso mide poner un modelo en funcionamiento, no un replicador autónomo completo.
Para evaluar cadenas más largas emplearon un entorno controlado y simplificaron el acceso entre equipos; el modelo coordinador recibió inferencia desde fuera. La previsión de que modelos pequeños alcancen capacidades similares hacia finales de 2026 es una extrapolación de los autores, no una fecha experimental ni evidencia de propagación fuera del laboratorio.
Investigación original de Anthropic.
Un ejemplo para ordenar la evaluación
El siguiente caso es una propuesta didáctica propia e hipotética. Una cooperativa quiere evaluar un asistente que clasifica solicitudes y prepara documentos para revisión. Antes de automatizar el recorrido, el equipo dibuja una frontera: qué puede hacer el asistente, qué prepara una persona y qué proporciona el entorno de práctica.
La primera sesión podría entregar al asistente una carpeta ya organizada. En otra sesión, el equipo podría exigirle ordenar materiales equivalentes antes de trabajar. No habría que comparar ambos resultados como si las condiciones fueran iguales: la preparación previa forma parte de la explicación. El responsable debería dejarla escrita antes de empezar, para no cambiar las reglas cuando vea el resultado.
También convendría separar la corrección de una salida de la continuidad del proceso. Un documento aceptable no responde por sí solo quién comprobó los datos, quién autorizó su destino o qué ocurrió después. El ejemplo no propone probar ataques ni conectar equipos ajenos: sirve para aprender a formular una evaluación con responsabilidades visibles.
Una tabla que obliga a precisar
| Pregunta | Evidencia que habría que conservar |
|---|---|
| ¿Qué recibió preparado? | Una descripción de los materiales y de la ayuda inicial. |
| ¿Qué hizo sin intervención? | Un registro de acciones, correcciones humanas y decisiones pendientes. |
| ¿Qué significa terminar? | Un criterio de aceptación acordado y la revisión de la salida. |
| ¿Dónde vale la conclusión? | Las condiciones del ensayo y los casos que quedaron fuera. |
La tabla sería una guía de recogida de evidencia, no una certificación. Si falta una respuesta, la conclusión correspondiente debería permanecer abierta. Una demostración vistosa puede motivar preguntas; una decisión operativa necesita además que otra persona pueda reconstruir lo ocurrido y señalar qué parte sigue sin comprobarse.
La pregunta antes de adoptar
Para una organización, una buena conversación de evaluación puede empezar así: ¿qué decisión cambiaríamos con este resultado y qué evidencia adicional exigiríamos antes de cambiarla? Escribir ambas respuestas evita pedir una prueba extensa que, aun completada, no resuelva la necesidad del equipo. También permite detener un ensayo que no esté produciendo información útil.
Continúa esta conversación en Comunidad IA: trae una afirmación sobre un sistema y distingue qué observación aceptarías como respaldo y qué pregunta dejarías pendiente.
