COLOSSUS : Recurring cyberdefence from a GitHub repository
Daniel Díaz y Leonardo Pinilla
Presentado al Defensive Acceleration Hackathon. Es un trabajo temprano de sus participantes y no una publicación de AI Safety Colombia.
Resumen
COLOSSUS es un sistema de ciberdefensa recurrente y automatizado: el operador entrega la URL de un repositorio de GitHub y el sistema construye una copia aislada, la investiga con herramientas estáticas, un modelo de lenguaje y noticias de vulnerabilidades (OSV y CISA KEV), genera una reparación con GLM, la verifica con pruebas obligatorias y pruebas formales en Dafny, la despliega en un laboratorio bajo una política de autonomía, y si algo falla hace rollback; si sale bien, refresca el espejo y el siguiente ciclo parte de la versión ya desplegada. Se maneja desde un CLI o un panel web, y su principio de diseño es que el modelo propone y el código determinista decide, tratando el contenido del repo y las respuestas del modelo como entrada no confiable. El trabajo se reparte en cuatro carriles: controlador e integración, onboarding y detección (el red team), reparación y despliegue, y verificación y evaluación.
Comentarios del jurado
Escritos por el jurado durante la evaluación. Se publican sin nombre, sin nota y en orden aleatorio.
TL;DR: El pipeline funciona de punta a punta. Pero solo se probó con un fallo. Qué funciona - El sistema bloqueó un primer parche que no pasaba la verificación de seguridad. (evaluation/submission/dsvw-repeat-cycle.json, línea 14) - 26 pruebas de política rechazaron 14 intentos de debilitar las protecciones. (docs/handoffs/kiro-sandbox.md, línea 13) Qué limita la evidencia - Solo se arregló un fallo: la misma consulta SQL, dos veces. (docs/submission.md, línea 18) - La prueba de 12 escenarios con prompt injection nunca se corrió. (evaluation/redteam/results.md, línea 20) Baseline más barato - Los baselines baratos planeados, como solo herramientas o revisiones básicas, nunca se corrieron. (docs/evaluation.md, línea 38) Siguiente paso - Corran un benchmark público, por ejemplo CyberSecEval o DafnyBench. - Prueben el ciclo en varios repositorios con fallos distintos. Literatura relevante (muy similar, no exhaustiva) - SoK: DARPA's AI Cyber Challenge (AIxCC) (2026), arXiv 2602.07666 - ATLANTIS: AI-driven Threat Localization, Analysis, and Triage Intelligence System (2025), arXiv 2509.14589 Comentario preparado por un jurado con apoyo de Claude Opus 5.5. Verificamos cada punto contra sus propios archivos (se indica archivo y línea) y lo comparamos con trabajos publicados.
Citar este proyecto
BibTeX
@misc{diaz2026colossus,
title={{COLOSSUS : Recurring cyberdefence from a GitHub repository}},
author={Daniel Díaz and Leonardo Pinilla},
year={2026},
month={November},
note={Presentado al Defensive Acceleration Hackathon, AI Safety Colombia, Bogotá},
howpublished={\url{https://aisafetycolombia.org/defacchackathon/proyectos/colossus}},
url={https://aisafetycolombia.org/defacchackathon/proyectos/colossus}
}


