Proyecto de hackatón14 nov 2026BogotáTrack 1: Seguridad de agentes

VanguardIA

David Hortua Bayona, Juan Felipe León Barrero, Sebastián Felipe Angarita Rico y Andrés Santiago Rodríguez Salazar

Presentado al Defensive Acceleration Hackathon. Es un trabajo temprano de sus participantes y no una publicación de AI Safety Colombia.

Resumen

Un agente con herramientas obedece las instrucciones ocultas en lo que lee. VanguardIA parte cada salida en trozos y retira los que parecen una inyección y se salen del contexto de la tarea, antes de que lleguen al LLM. Sobre 1.562 salidas detecta el 77,6 % de los ataques, frente al 51,6 % del detector DeBERTa, con la mitad de falsos positivos (11,3 % contra 21,9 %) y siete veces más rápido en CPU: 22 ms contra 171 ms. VanguardIA es un guardián de contexto entre la herramienta y el LLM: toda salida pasa por check(texto, tarea) antes de entrar al contexto. Su diferencia: sanea en vez de bloquear. Parte la salida en trozos de una a tres oraciones —también las claves de un JSON—, calcula el embedding de cada uno con MiniLM-L6 que corre en CPU y le asigna dos puntajes: cuánto se parece a una instrucción inyectada y cuánto se aleja del contexto de la tarea. Retira un trozo si su puntaje de ataque es alto, o si es medio y además está fuera de contexto; el resto pasa, y el agente conserva la información legítima. Devuelve el texto limpio más un registro de lo retirado, sin tokens ni otro LLM.


Comentarios del jurado

Escritos por el jurado durante la evaluación. Se publican sin nombre, sin nota y en orden aleatorio.

  1. Propuesta relevante para la seguridad de agentes, con un enfoque interesante de saneamiento selectivo de salidas de herramientas mediante similitud semántica y contexto de la tarea. Se destacan la evaluación cuantitativa con 1.562 muestras, la comparación con detectores existentes y la baja latencia de ejecución en CPU. Como principal oportunidad de mejora, sería importante ampliar la validación de extremo a extremo con agentes reales, midiendo tanto la reducción del éxito de los ataques como la preservación del desempeño en tareas legítimas. También sería valioso evaluar ataques adaptativos y fortalecer la detección de instrucciones maliciosas relacionadas directamente con la tarea. El prototipo presenta resultados prometedores, pero su efectividad como mecanismo integral de defensa todavía requiere mayor evidencia experimental.

  2. TL;DR: El filtro es rápido y funciona. Pero la idea central, que sanear conserva más utilidad que bloquear, se probó en un solo caso. Qué funciona - Detecta 84,6 % de 421 ataques escritos por personas (LLMail, fase 2). (results/eval_detector_test_v2.json, línea 49) - Es rápido: 22 ms de mediana en CPU, frente a 171 ms de DeBERTa. (results/eval_detector_test_v2.json, línea 21) Qué limita la evidencia - La prueba en AgentDojo es un solo caso. Ahí, el modo de detección rompió la utilidad. (results/2026-11-14-856193d-dirty-agentdojo-banking-guard-detect.json, línea 13) - Marca 21 % de los textos limpios con palabras gatillo. El 1,75 % que destacan es solo para outputs de herramientas. (results/eval_detector_test_v2.json, línea 57) Baseline más barato - No compararon con un LLM usado con zero-shot o few-shot prompting, ni con un LLM judge. Es la alternativa más barata para esta tarea. Siguiente paso - Corran la suite completa de AgentDojo con el threshold congelado. - Midan el conjunto de paráfrasis que ya construyeron, y comparen con un LLM judge. Literatura relevante (muy similar, no exhaustiva) - CausalArmor: Efficient Indirect Prompt Injection Guardrails via Causal Attribution (2026), arXiv 2602.07918 - Can Indirect Prompt Injection Attacks Be Detected and Removed? (2025), arXiv 2502.16580 Comentario preparado por un jurado con apoyo de Claude Opus 5.5. Verificamos cada punto contra sus propios archivos (se indica archivo y línea) y lo comparamos con trabajos publicados.

  3. estuvo clara la presentación pero les faltó enfocarse más en la solución sobre el mundo real de su sistema de defensa.

Citar este proyecto

BibTeX

@misc{hortua2026vanguardia,
  title={{VanguardIA}},
  author={David Hortua Bayona and Juan Felipe León Barrero and Sebastián Felipe Angarita Rico and Andrés Santiago Rodríguez Salazar},
  year={2026},
  month={November},
  note={Presentado al Defensive Acceleration Hackathon, AI Safety Colombia, Bogotá},
  howpublished={\url{https://aisafetycolombia.org/defacchackathon/proyectos/vanguardia}},
  url={https://aisafetycolombia.org/defacchackathon/proyectos/vanguardia}
}

Más del Defensive Acceleration Hackathon

Ver todos los proyectos →