ÁLVAROMAUREIRA

Microsoft Edge prueba IA local en sitios web con Aion Instruct

Publicado ·
Álvaro compara dos tarjetas de texto, una con un fragmento resaltado, junto a un portátil cerrado

Microsoft anunció el 19 de noviembre tres novedades que conviene separar: publicó los pesos de Aion Instruct, convirtió ese modelo en el modelo de lenguaje integrado de Edge y abrió una prueba para que sitios web usen Prompt API con visitantes reales. También presentó otra interfaz experimental, Decisions API. Para un negocio digital, el cambio es que algunas tareas de texto podrían ejecutarse en el dispositivo del visitante en lugar de mandar cada solicitud a un servidor. Pero la prueba aún no permite asumir que toda visita podrá usar esa función.

Qué se puede probar desde hoy

Los pesos del modelo de 2,3 mil millones de parámetros están disponibles en la ficha publicada por Microsoft, bajo licencia MIT. Esa descarga no es lo mismo que habilitar el modelo dentro del navegador de un cliente. En Edge, Aion reemplaza a Phi-4-mini como modelo integrado y se descarga cuando una función lo necesita, si el equipo y la configuración lo permiten. Para usar Prompt API desde un sitio público, Microsoft ofrece una prueba temporal que se habilita para el dominio inscrito. El anuncio del 19 de noviembre distingue esa prueba del lanzamiento de los pesos; tampoco convierte la integración de todo Windows en algo disponible para todos hoy.

Los requisitos que cambian la cobertura

La documentación de Edge enumera Windows 10 u 11, macOS a partir de 13.3 y Linux x64 con controladores Vulkan y Edge 159 o posterior. También exige al menos 3 GB de memoria gráfica y 20 GB libres en el disco que aloja el perfil. Esos 20 GB son un requisito de espacio disponible, no el peso anunciado del modelo. Si el espacio libre cae por debajo de 5 GB, Edge elimina el modelo. La primera descarga requiere una conexión no medida; la opción de IA local o una política de TI también puede impedir el acceso. Antes de ofrecer el botón a un visitante hay que distinguir si el modelo está listo, si aún debe descargarse o si no está disponible.

Una aplicación concreta para un comercio

Una tienda podría ofrecer a sus encargados un resumen voluntario de las reseñas que ya tienen abiertas en pantalla. El prototipo recibiría tres comentarios ficticios en español y devolvería un máximo de tres temas, conservando las frases que respaldan cada tema. No calificaría al cliente, borraría comentarios ni modificaría pedidos. El encargado revisaría el resultado antes de copiarlo a su informe. En un equipo que no pueda ejecutar el modelo, la misma pantalla seguiría mostrando las reseñas sin resumen. Así el piloto prueba una mejora puntual sin convertir un requisito de Edge en una barrera de acceso.

Para decidir si vale la pena, mediría por separado cuántos dispositivos llegan al estado disponible, cuánto toma la primera respuesta y cuánto tardan las siguientes. Después revisaría omisiones, traducciones innecesarias y afirmaciones no respaldadas. Conviene incluir reseñas en español chileno y mexicano con modismos, negaciones y motivos mezclados. No hay un rendimiento local comprobado para ese escenario: la ficha del modelo advierte que la calidad puede variar entre idiomas.

Decisions API de Edge no es la de OpenAI

Microsoft está probando una interfaz experimental para preguntas cerradas sobre texto. Su ejemplo propone devolver una categoría, una puntuación o una respuesta binaria en vez de redactar un párrafo. Según el anuncio de Microsoft, está en vista previa para desarrolladores en Edge Canary y Dev; no debe tratarse como una función estable del navegador. Es distinta de la Decisions API de OpenAI, aunque las dos se orienten a respuestas acotadas. Para un piloto, usaría una salida experimental sólo como sugerencia y dejaría las reglas del negocio y las acciones posteriores bajo el control de la aplicación.

Cuándo tiene sentido ejecutar en el dispositivo

Microsoft presenta la inferencia local como una forma de procesar entradas en el dispositivo y de trabajar sin conexión una vez descargado el modelo. Eso no implica que el sitio completo deje de usar la red: la página, su telemetría y cualquier alternativa en la nube siguen siendo decisiones separadas. Mostraría qué ruta responde, no enviaría el texto a un proveedor externo por un fallo local y mantendría el servicio básico disponible. Tampoco convertiría una posible reducción de llamadas remotas en ahorro presupuestado sin medir cobertura, calidad y costo de mantener dos rutas.

Preguntas frecuentes

¿Puedo usar Aion sin desarrollar para Edge?

La licencia de los pesos permite evaluar el modelo por separado. La integración propia necesita su entorno de ejecución y validación.

¿La prueba está disponible en cualquier navegador?

No. La prueba anunciada es de Edge. Un sitio debe detectar la capacidad y ofrecer una alternativa.

¿Es una función sin costo para el negocio?

La inferencia local evita esa llamada de nube, pero hay costos de integración, validación y soporte que el piloto debe medir.

¿Dónde conviene empezar?

Con texto de bajo riesgo y resultados fáciles de revisar, como organizar reseñas sintéticas. No partas con decisiones automáticas sobre personas o pedidos.

¿Los resultados en español están comprobados?

No para este caso. Prueba primero con vocabulario regional y compara con una revisión humana.

Sigue aprendiendo

Explora los recursos y continúa tu recorrido en la comunidad.

Únete gratis a la comunidad →