Seminario técnico de seguridad de la IA
Las capacidades de la IA avanzan más rápido que la seguridad. Seis semanas sobre cómo cerrar esa brecha: entrenar modelos más seguros, evaluarlos, mirarlos por dentro y limitar el daño cuando fallan. Para gente con base técnica.
Del 12 de octubre al 22 de noviembre de 2026. Cupos limitados: aplica hasta el 9 de octubre.
Seis semanas
Del 12 de octubre al 22 de noviembre de 2026, una sesión de dos horas por semana más una hora de material por tu cuenta
Mixto: presencial y en línea
Sesiones en la Universidad de los Andes, con comida gratis, y sesiones en línea
Gratis, con certificado
Materiales de BlueDot Impact; discusión en español, lecturas en inglés
Las capacidades avanzan más rápido que la seguridad
Las capacidades de la IA avanzan más rápido que la seguridad, y el campo necesita más gente técnica trabajando en eso. Los problemas siguen abiertos: todavía no sabemos medir con confianza lo que un modelo puede y quiere hacer, ni entender qué calcula por dentro, ni garantizar que un sistema capaz no cause daño si algo falla.
El Seminario técnico de seguridad de la IA es un recorrido por esos problemas y por los métodos con los que hoy se intenta resolverlos: RLHF, evaluaciones, interpretabilidad mecanicista y AI control. Las lecturas son las que diseñó BlueDot Impact; AI Safety Colombia corre esta cohorte por su cuenta, con facilitadores de la comunidad.
¿Prefieres tomarlo en línea y en inglés? Aplica directamente con BlueDot.
Para quien ya entiende cómo se entrena un modelo y quiere trabajar en hacerlo seguro
Basta con entender lo básico de cómo se entrena un LLM; si te falta, el curso AI Foundations de BlueDot, de dos horas, te da esa base. El seminario está pensado para:
Investigación en ML
Haces investigación en machine learning y quieres apuntarla a alineación, evaluaciones o interpretabilidad.
Ingeniería de software
Construyes sistemas con modelos y quieres pasar a trabajar en la seguridad de los modelos que usas.
Matemáticas y ciencias de la computación
Tienes la base formal y quieres ver qué problemas del campo la necesitan.
Estudiantes que ya van en serio
Estás pensando en fellowships como MATS, SPAR o ARENA, o en un posgrado, y quieres llegar con criterio.
No es una introducción a la IA. Asume que ya sabes cómo funciona un modelo y quieres la seguridad que va debajo.
Si prefieres empezar por el panorama estratégico, mira el Seminario de futuro y riesgos de la IA.
Una cohorte pequeña que discute cada semana
Cada semana arranca con una hora de material ligero (videos y podcasts) y sigue con una sesión de dos horas con tu cohorte: lectura a fondo y discusión. Son unas tres horas por semana, en un horario que se fija con los participantes seleccionados. Todas las lecturas y videos son en inglés, tal como los publica BlueDot; la discusión es en español. La modalidad es mixta: hay sesiones presenciales en la Universidad de los Andes y sesiones en línea, y cabe al lado de un trabajo o de la universidad. En las sesiones presenciales hay comida gratis.
Los facilitadores son Helen Stefany Penagos (Mastercard) y Andrés Mosquera (Universidad de los Andes). La discusión es donde se ponen a prueba los supuestos y donde las lecturas se conectan con el trabajo que se hace en laboratorios y organizaciones de investigación, y la cohorte queda como una comunidad de pares con la que seguir explorando el campo después del seminario.
Seis semanas, del problema de fondo a tu siguiente paso
Cada semana: una hora de material ligero y una sesión de dos horas, de lectura a fondo y de discusión. Las sesiones alternan: la primera semana es presencial, la segunda en línea, y así hasta el final. El horario de las sesiones se define según la disponibilidad de los participantes seleccionados.
- Semana 1Presencial
Qué hace falta para que la IA salga bien
Por qué los modelos actuales no son seguros por defecto y qué enfoques técnicos existen para cambiarlo.
- Semana 2En línea
Entrenar modelos más seguros
Cómo funciona RLHF, qué otros métodos se usan para ajustar un modelo y en qué casos no bastan.
- Semana 3Presencial
Evaluaciones
Cómo se mide lo que un modelo es capaz de hacer y cómo se busca si está ocultando algo.
- Semana 4En línea
Interpretabilidad mecanicista
Las técnicas para ver qué calcula una red neuronal por dentro y hasta dónde llegan hoy.
- Semana 5Presencial
Minimizar el daño
Cómo se limita lo que un modelo puede hacer aunque esté desalineado, con AI control y clasificadores constitucionales.
- Semana 6En línea
Cómo empezar a contribuir
Qué problemas abiertos encajan con lo que ya sabes hacer y cómo dar el primer paso.
Un mapa técnico, criterio y un siguiente paso
Un mapa de los enfoques técnicos de la seguridad y de qué problema ataca cada uno.
Criterio para leer un paper del campo: qué mide una evaluación, qué muestra un resultado de interpretabilidad y qué no.
Claridad sobre dónde encajan tus habilidades y cuál es tu siguiente paso: un hackathon, un fellowship o un proyecto propio.
Una cohorte de personas técnicas en Colombia, y un certificado de AI Safety Colombia.
Las aplicaciones cerraron
Las aplicaciones de esta cohorte cerraron el viernes 9 de octubre.
Preguntas frecuentes
¿Cuánta formación técnica necesito?
Deberías entender lo básico de cómo se entrenan y ajustan los LLM, que el progreso de la IA lo mueven los datos, los algoritmos y el cómputo, y que una red neuronal se optimiza con descenso de gradiente. El curso AI Foundations de BlueDot, de dos horas y a tu ritmo, te da esa base.
¿Tengo que hacer primero el Seminario de futuro y riesgos de la IA?
No es obligatorio, pero ayuda: el Seminario de futuro y riesgos de la IA da el contexto sobre el que se construye este seminario. Si aplicas a este y no quedas, en el formulario puedes pedir que te consideremos para el Seminario de futuro y riesgos de la IA.
¿Hay selección o entra todo el que aplica?
Hay selección: los cupos son limitados. Leemos cada aplicación y escogemos según lo que escribas y el encaje con el perfil que describe esta página. Avisamos a todos, queden o no, antes de que arranque la cohorte.
¿En qué horario son las sesiones?
Se define con los participantes seleccionados: antes de arrancar les preguntamos qué franjas les sirven y se fija la que mejor le quede a la cohorte.
¿En qué idioma es?
Las discusiones son en español. Todas las lecturas, videos y podcasts son en inglés, tal como los publica BlueDot Impact, así que hace falta leer inglés con comodidad.
¿Qué necesito para recibir el certificado?
Asistir a las sesiones de discusión: puedes faltar a una como máximo. Es la misma regla que usa BlueDot Impact en sus cohortes. El certificado lo emite AI Safety Colombia por completar el seminario, basado en el currículo de BlueDot Impact.
¿Qué relación tiene con BlueDot Impact?
BlueDot Impact diseñó el temario y publica sus materiales. AI Safety Colombia corre esta cohorte por su cuenta, con esos materiales y con facilitadores de la comunidad.