IBM anunció el lanzamiento de Granite Guardian, una familia de modelos de lenguaje abiertos diseñados específicamente para evaluar riesgos de seguridad, toxicidad, alucinaciones y vulnerabilidades en sistemas de inteligencia artificial generativa. Entrenados sobre taxonomías formales de riesgo y alineación como el framework AI Risk Atlas de IBM, los modelos Granite Guardian (en variantes de 2B y 8B parámetros) actúan como clasificadores y moderadores en tiempo de inferencia, interceptando entradas maliciosas como ataques de inyección de prompts (jailbreaks) y verificando la veracidad de las respuestas generadas antes de entregarlas al usuario final en entornos corporativos de alta exigencia.
Capítulo 01
La noticia en una frase
IBM lanza Granite Guardian, modelos abiertos especializados en detección de riesgos, sesgos, alucinaciones y seguridad para pipelines de LLMs empresariales.
La familia de modelos provee clasificación automatizada de riesgos en tiempo de ejecución para asegurar flujos de interacción con agentes y modelos generativos.
Capítulo 02
