Un fin de semana para convertir los primeros incidentes en los que un sistema de IA actuó por su cuenta contra un tercero en material que sirva a quien tiene que responder.
Las aplicaciones al hub en Bogotá cierran a la medianoche del domingo 6 de septiembre, hora de Colombia.
Ya hay casos documentados en los que un sistema de IA atacó por su cuenta a un tercero. En julio de 2026, unos modelos que estaban siendo evaluados se salieron de su entorno de pruebas y encadenaron fallas hasta entrar a la infraestructura de producción de Hugging Face. Lo contaron OpenAI y Hugging Face cada uno por su lado. Ninguna ley los obligaba a hacerlo.
Cuando pasa algo así, casi nadie tiene a mano el procedimiento: no está escrito cómo se contiene, ni cómo se reconstruye qué falló, ni qué le puede exigir un regulador al proveedor, ni cómo se cuenta el caso sin exagerar ni minimizar.
El sprint existe para llenar ese vacío con piezas concretas. Se trabaja en cinco frentes en paralelo durante tres días. Cada equipo entrega algo que alguien más pueda usar: un estándar, un banco de pruebas, un cuestionario para un regulador, un ejercicio de mesa. Después del fin de semana los califican jurados que no estuvieron en la sala. La retroalimentación llega por escrito y el reporte queda publicado con tu nombre. Apart Research y CeSIA convocan el sprint en todo el mundo; nosotros abrimos el hub presencial en Bogotá.
Cada equipo escoge uno. En el formulario nos dices cuál te llama, y eso nos sirve para saber qué perfiles habrá en la sala y para invitar a los mentores que hagan falta. Apart publica el detalle de cada frente en la convocatoria del sprint.
Escribir el mínimo con el que se debería correr una evaluación en caja de arena. Entra acá quien pueda proponer una matriz de control por fase de ataque, o empaquetar mitigaciones de forma que un tercero verifique que se cumplen.
Reconstruir qué pasó y en qué punto falló el monitoreo. Se buscan preguntas que alguien pueda resolver, revisiones que se puedan correr mañana y explicaciones causales que predigan algo.
Redactar peticiones de información que un regulador pueda usar casi sin editar, poner a prueba los sistemas de reporte que ya existen y señalar los vacíos legales que dejan.
Auditar cómo cubrieron el incidente los medios y armar el kit con el que se comunica el siguiente. Acá pesa el anclaje en el registro de lo que de verdad ocurrió.
Cualquier otro ángulo del mismo problema. La condición es la de siempre: un artefacto que alguien pueda usar y una frase honesta sobre hasta dónde llega lo que demuestra.
Trabajar tres días seguidos es más fácil acompañado que solo en la casa. Por eso abrimos una sala en Bogotá durante todo el fin de semana.
La sede se confirma en los próximos días. La anunciamos por correo a quienes queden seleccionados y por el grupo de WhatsApp.
Cubrimos las comidas de los tres días. Si vienes de otra ciudad, también cubrimos el alojamiento del fin de semana.
Cubrimos parte del gasto de cómputo de los equipos. La cifra se confirma antes del cierre de aplicaciones.
Gente que trabaja en respuesta a incidentes, en seguridad ofensiva y en regulación pasa por el hub durante el fin de semana.
Espacio de trabajo durante todo el fin de semana, con mesas para equipos y con dónde conectarse.
El viernes en la noche se arman los equipos en la sala. Mucha gente llega sola y sale con equipo.
El hub tiene aforo, así que hay proceso de selección. Se aplica por el formulario y avisamos por correo.
Durante el fin de semana pasa por la sala gente que trabaja en los temas de los cinco frentes. Algunos abren con una charla corta. Todos se sientan con los equipos a apoyar lo que estén construyendo.
Si trabajas en respuesta a incidentes, en seguridad ofensiva, en regulación o en comunicación de riesgos y te interesa dar una charla o acompañar a un equipo, escríbenos a [email protected].
Consultora en gobernanza de IA para varias organizaciones. Miembro del grupo de expertos de la OCDE y líder del grupo de AI Control de AIS Colombia. Como Winter Fellow de GovAI investigó la regulación europea de los escenarios de pérdida de control.
Miembro del equipo técnico de Security Level 5, iniciativa enfocada en proteger sistemas avanzados de IA frente a adversarios estatales y pérdida de control. Coautor del estándar SL5 y mentor de un proyecto de investigación en SPAR y de un grupo de MATS sobre la seguridad de los centros de datos.
Estudiante de doctorado en Ingeniería en la Universidad de los Andes, donde investiga sistemas multiagente. Primera autora del artículo de IEEE Transactions on Artificial Intelligence que define cómo medir la resiliencia cooperativa: si un grupo de agentes sostiene el bien común cuando el entorno cambia o cuando entra uno que lo agota.
No se pide experiencia previa en seguridad de la IA ni título en nada. Se pide que puedas estar los tres días y que llegues con una idea de qué te gustaría abordar.
La aplicación toma alrededor de veinte minutos y no necesitas preparar nada de antemano.
Ingeniería, ciencia de datos o seguridad informática: la contención y el análisis del incidente piden manos en el teclado durante los tres días.
Los frentes de regulación y comunicación se ganan escribiendo bien y entendiendo el expediente, no programando.
De banca a salud, la respuesta a incidentes ya es un oficio. Acá se trata de ver qué cambia cuando el que falló es un sistema de IA.
No hace falta haber leído nada sobre seguridad de la IA. Se entra por lo que ya sabes hacer y lo que falte se pregunta en la sala. Buena parte de quienes hoy trabajan en el campo entraron por un fin de semana como este.
Apart reparte USD 2.000 entre los cinco primeros puestos de todo el sprint. Los jurados evalúan los proyectos la semana siguiente y la calificación es ciega: no saben de dónde viene cada equipo.
Más allá del premio, los equipos con mejores resultados entran a la vía rápida de la beca de investigación de Apart y quedan conectados con mentores del campo. Cada reporte se publica completo y con los nombres de sus autores.
Apart Research y CeSIA convocan el sprint en todo el mundo. Nosotros abrimos el hub presencial en Bogotá, y son estas organizaciones las que lo hacen posible.
Apart ResearchAdemás de convocar el sprint, apoya a los grupos que abren un hub presencial durante el fin de semana.
BlueDot ImpactSus cursos gratuitos son la entrada estándar al campo. Con Rapid Grants financian trabajo concreto: USD 1,4 millones otorgados en total y decisiones en solo tres días en promedio.
Pathfinder FellowshipBeca de Kairos para quienes construyen comunidades de seguridad de la IA. Aporta mentoría y financiación para sus actividades.Sí, y es el caso de buena parte de quienes participan. Los proyectos que mejor salen suelen mezclar a alguien que conoce el campo con alguien que sabe hacer muy bien otra cosa: escribir, litigar, levantar infraestructura, leerse un expediente. Lo que sí pedimos es que puedas estar los tres días.
No para todos los tracks. Los de regulación y comunicación se ganan escribiendo bien y entendiendo el expediente. Los de contención y análisis sí piden manos en el teclado, aunque los equipos suelen mezclar perfiles.
No. Los equipos son de una a cinco personas y se arman el viernes en la noche, en la sala y en el Discord de Apart. Mucha gente llega sola y sale con equipo.
El sprint es el mismo y el entregable se sube al mismo sitio. Aplicar acá es para el hub presencial en Bogotá, que tiene cupo limitado y por eso tiene selección. En el hub cubrimos alimentación, alojamiento si vienes de otra ciudad, apoyo para cómputo y mentoría en sala. Participar en línea con Apart no tiene selección ni cupo.
Alrededor de veinte minutos. Leemos la postulación completa. La pregunta que más pesa es qué problema te gustaría abordar y con qué enfoque, y no esperamos una propuesta cerrada.
Sí. En el formulario nos dices desde dónde vendrías y, si vienes de otra ciudad, cubrimos el alojamiento del fin de semana. El transporte hasta Bogotá corre por tu cuenta.
Leemos la postulación completa. La pregunta que más pesa es qué problema te gustaría abordar y con qué enfoque. No buscamos una propuesta cerrada.
