Vigilio Bear
Santiago Ismael Escobar Maidana, Juan Esteban Gómez Jiménez, Juan Daniel Gonzalo López Pedraza y María Paula Duque Jiménez
Presentado al Defensive Acceleration Hackathon. Es un trabajo temprano de sus participantes y no una publicación de AI Safety Colombia.
Resumen
Los empleados ya trabajan con agentes de IA que leen correos, tickets o documentos y, con el mismo acceso, ejecutan acciones críticas: pagar facturas, cambiar permisos o modificar sistemas en producción. El agente no distingue entre lo que le pidió el empleado y lo que leyó por el camino, así que una instrucción escondida en un correo o en un PDF puede convertirse en una orden. Además, las empresas no pueden reconstruir quién autorizó cada acción, y sus políticas de aprobación no están dentro del agente.
Construimos Context Firewall, un middleware que separa el razonamiento de la autorización. Un Sanitizer marca todo contenido externo como no confiable y sella esa etiqueta con SHA-256. Un Orquestador descarta lo que no requiere acción. Un motor de reglas determinista (PEP) intercepta cada llamada a una herramienta crítica y aplica las reglas, datos maestros y roles de cada empresa, conectados como un Policy Pack. Ninguna acción crítica se ejecuta sin aprobación humana de alguien distinto a quien la pidió, y cada decisión queda en un registro encadenado con su control ISO 27001 o 42001.
Lo evaluamos en 35 escenarios de pagos con un modelo real (qwen2.5 de 7B). Sin defensa, 14 de 18 ataques se ejecutaron y se perdieron 176 millones de pesos; con el sistema completo, ninguno, y se completaron 10 de 12 pagos legítimos. Un LLM vigilante también frenó los ataques, pero bloqueó un tercio de los pagos legítimos y tardó 6 segundos por decisión; nuestro control decide en 1,5 ms.
Comentarios del jurado
Escritos por el jurado durante la evaluación. Se publican sin nombre, sin nota y en orden aleatorio.
E l problema es muy grande no acotado, la solución parece adecuada
muy compleja la arquitectura para un resultado intermedio, recomiendo simpliificar para mejorar el impacto del producto
TL;DR: La regla fija bloquea los ataques de pago con un modelo real. Pero los escenarios son pocos y propios. Qué funciona - Con un modelo real de 7B pasaron 0 de 18 ataques de pago, frente a 14 de 18 sin defensa. (reports/resultados_ollama_qwen2.5-7b.md, línea 17) - La regla fija decide en 1,5 ms. (reports/resultados_ollama_qwen2.5-7b.md, línea 21) Qué limita la evidencia - Son 48 escenarios escritos por el equipo, con una sola repetición. (README.md, línea 237) - Si el atacante cambia la cuenta del proveedor en la lista maestra, la regla principal deja de proteger. (README.md, línea 227) Baseline más barato - Un LLM judge bloqueó todos los ataques. Pero también bloqueó 4 de 12 pagos legítimos y tardó unos 6 segundos por decisión. (Ficha técnica, línea 75) Siguiente paso - Prueben con ataques que no hayan escrito ustedes. - Midan con personas reales si la segunda aprobación se revisa o se aprueba por costumbre. Literatura relevante (muy similar, no exhaustiva) - ROPE: Routed Origin Policy Enforcement against Indirect Prompt Injection (2026), arXiv 2608.27496 - Progent: Securing AI Agents with Privilege Control (2025), arXiv 2504.11703 Comentario preparado por un jurado con apoyo de Claude Opus 5.5. Verificamos cada punto contra sus propios archivos (se indica archivo y línea) y lo comparamos con trabajos publicados.
Citar este proyecto
BibTeX
@misc{escobar2026vigilio,
title={{Vigilio Bear}},
author={Santiago Ismael Escobar Maidana and Juan Esteban Gómez Jiménez and Juan Daniel Gonzalo López Pedraza and María Paula Duque Jiménez},
year={2026},
month={November},
note={Presentado al Defensive Acceleration Hackathon, AI Safety Colombia, Bogotá},
howpublished={\url{https://aisafetycolombia.org/defacchackathon/proyectos/sigma-hackers}},
url={https://aisafetycolombia.org/defacchackathon/proyectos/sigma-hackers}
}


