19-21 de junio
Arranca el viernes en la tarde y va hasta el domingo en la noche. Cierre de aplicaciones el 12 de junio.
Global South AI Safety Hackathon
Un fin de semana para construir herramientas, evaluaciones e investigación de política sobre los riesgos de IA que más importan en la región.
El hub presencial de Bogotá ya cerró postulaciones, pero aún puedes participar en línea con Apart Research, sin proceso de selección.
Bogotá u online
Sede presencial en el norte de Bogotá o participación virtual desde cualquier lugar del Sur Global.
Reporte o hallazgo
La entrega puede ser un hallazgo técnico, una evaluación, una herramienta o un memo de gobernanza.
¿Qué es?
Hoy, gran parte de la investigación en seguridad de IA se concentra en un número reducido de países. Sin embargo, estos sistemas ya están siendo desplegados en nuestra región, muchas veces con riesgos poco evaluados: sesgos no auditados, vulnerabilidades sin documentar y decisiones automatizadas sin mecanismos claros de rendición de cuentas. La capacidad de analizar, verificar y cuestionar estos sistemas desde contextos locales sigue siendo muy limitada.
El Global South AIS Hackathon es un sprint internacional de investigación de tres días diseñado para cerrar esa brecha. Los participantes forman equipos pequeños y trabajan en retos definidos por expertos en seguridad y gobernanza de IA, con mentoría en vivo durante todo el evento. Los equipos ganadores reciben una invitación al Apart Lab Fellowship, donde continúan desarrollando sus proyectos junto al equipo de investigación de Apart Research, con oportunidades de publicación y vinculación a organizaciones dedicadas a la seguridad de la IA.
Presencial
Hub Bogotá
Hub Bogotá · postulaciones cerradas
- Espacio de trabajo presencial abierto 24 horas durante los tres días del evento.
- Alimentación vegana incluida durante todo el fin de semana.
- Mentorías, charlas y Q&A en vivo con investigadores, jueces y expertos.
- Apoyo limitado de viaje y alojamiento para participantes seleccionados de otras ciudades del país.
En línea
Sur Global
Abierto a participantes del Sur Global.
- Charlas técnicas y Q&A en vivo por Zoom.
- Canales oficiales del hackathon en Discord para mentoría y colaboración.
- Acceso completo a los retos, recursos y entregables del hackathon.
¿Quién puede participar?
- Investigadores e ingenieros de IA/ML
- Desarrolladores de software y científicos de datos
- Profesionales de política, derecho y gobernanza
- Especialistas en seguridad y red teaming
- Estudiantes y personas en inicios de carrera
- Curiosos de otras disciplinas, sin experiencia previa
¿Por qué participar?
Estos riesgos no son hipotéticos. Modelos que aprenden a engañar a su propia supervisión, asistentes convertidos en herramientas de ataque por un párrafo escondido en cualquier texto, sentencias que se apoyan en información que un modelo inventó, drones militares que ya vuelan en modo autónomo. La investigación en seguridad de IA agrupa el trabajo necesario en cuatro frentes. Cada caso a continuación es un ejemplo concreto de uno de ellos, apenas una muestra de lo que podrías trabajar.
Technical AI Safety
Los modelos de frontera ya actúan solos: navegan, escriben y ejecutan código por su cuenta. En pruebas controladas, Apollo Research documentó modelos que intentaban desactivar su propia supervisión y mentían al respecto para cumplir un objetivo. Llegan a la región sin que nadie verifique cómo razonan por dentro. Evaluar a los agentes e inspeccionar lo que aprenden es la única forma de detectarlo a tiempo.
AI Security
Empresas y gobiernos de la región ya conectan modelos de IA a correos, documentos y sistemas internos. Con inyección de prompts, un atacante esconde instrucciones en cualquier texto que el modelo lea y logra que el asistente filtre datos o actúe en nombre del usuario, algo ya demostrado contra aplicaciones reales. Un modelo capaz sin pipelines asegurados ni control sobre sus acciones es una puerta abierta.
IA Responsable
Los modelos de IA ya entran en decisiones sobre las personas, y producen información falsa con total fluidez. En 2023 un juzgado de Cartagena resolvió con ChatGPT una tutela de salud de un niño con autismo; al revisar el fallo, un profesor pidió las sentencias que el modelo citaba y descubrió que las había inventado. Medir cuándo alucina un modelo y detectarlo antes de que llegue a una decisión es trabajo de IA responsable.
Gobernanza de IA
La gobernanza de IA define qué usos de estos sistemas se permiten, cómo se auditan y quién responde cuando fallan. En octubre de 2025 la estatal colombiana CIAC presentó el Dragom, un dron militar de ataque que vuela en modo manual, semiautomático o autónomo. Que un sistema mate por su cuenta no es una decisión técnica sino política, y por eso la Cámara discute un proyecto de ley para prohibir las armas autónomas letales (SAAL).
Los retos completos se publican el viernes; los cuatro frentes anteriores son apenas el mapa. Los tracks de abajo detallan los subtemas concretos.
Retos
Technical AI Safety
Entender y verificar cómo se comportan los modelos por dentro: cómo evalúan, planean y actúan los sistemas agénticos, y cómo inspeccionar lo que aprenden.
- Evaluaciones para sistemas agénticos
- Interpretabilidad mecanicista
AI Security
Proteger los sistemas de IA frente a abuso y ataques: asegurar pipelines de despliegue, resistir inyección de prompts y jailbreaks, y mantener el control sobre modelos capaces.
- Seguridad de pipelines (API/Cloud)
- Ataques adversariales
- Control de IA
IA Responsable
Reducir daños en el uso real: mitigar alucinaciones, auditar el comportamiento de los modelos en distintos idiomas y culturas, y evaluar su impacto social.
- Mitigación de alucinaciones
- Auditoría de comportamiento (multilingüe, intercultural)
- Evaluación de impacto social
Gobernanza de IA
Las reglas e instituciones que guían a la IA: regulación, auditoría y rendición de cuentas, monitoreo del ecosistema y armas autónomas letales (SAAL), un eje liderado desde Bogotá.
- Regulación de IA
- Auditoría y rendición de cuentas de sistemas
- Monitoreo del ecosistema
- Gobernanza de sistemas de armas autónomas letales (SAAL)
Agenda · 3 días
Agenda aproximada. Apart confirmará los horarios exactos con las personas inscritas.
- 1 Viernes 19
- ~4:00 PM Charla de apertura y presentación de los retos Con Alejandro Toro (Congreso de Colombia)
- Noche Formación de equipos e inicio del desarrollo
- 2 Sábado 20
- Mañana Desarrollo en equipos
- Tarde Charlas técnicas y mentoría con expertos
- Noche El desarrollo continúa
- 3 Domingo 21
- Mañana Desarrollo final del proyecto
- Tarde Escritura del reporte de investigación
- Tarde Charla de cierre Con Juan Felipe Cerón (OpenAI)
- Noche Entrega del reporte de investigación Fecha límite del hackathon
Entregable
Cada equipo entrega un reporte de investigación en PDF de 4 a 8 páginas que documenta enfoque, resultados e implicaciones.
Premios
USD 3.000
para los 3 equipos ganadores de América Latina
USD 1.000 por equipo, dentro de un pool de USD 6.000 para 6 equipos del Sur Global.
Invitación al Apart Lab FellowshipMentoría y revisión de expertos
El Apart Lab Fellowship es un programa remoto y asíncrono de 12 a 24 semanas en el que cada equipo convierte su prototipo del hackathon en una investigación publicable, con acompañamiento de un Research Project Manager y del equipo de Apart Research. Más de 100 personas han pasado por el programa, que ya suma 22 publicaciones en seguridad de IA. Lo que cada equipo construye depende del track: prototipos, evaluaciones o herramientas técnicas en seguridad; memorandos o análisis de política en gobernanza. Está diseñado para ser accesible desde cualquier país y compatible con un empleo de tiempo completo.
Trayectorias después del hackathon
- Trabajos de fellows de Apart han sido publicados en conferencias técnicas de aprendizaje automático, incluyendo ICLR 2025 (DarkBench), NeurIPS 2024 (Interpreting Learned Feedback Patterns in LLMs) y ACL 2024 (Large Language Models Relearn Removed Concepts).
- El programa también ha llevado a roles a tiempo completo en seguridad de IA, como ingeniero de investigación en CAIF o líder de investigación en Martian.
Hubs en el Sur Global
América Latina
- São Paulo
- Buenos Aires
- Bogotá Nuestro hub
- Mérida
- Guadalajara
- Santa Cruz
África
- Ciudad del Cabo
- Johannesburgo
- Dodoma
- Lusaka
Asia
- Bangalore
- Delhi
- Hanói
- Ciudad Ho Chi Minh
Bogotá es el hub presencial que organiza AI Safety Colombia. Cualquier persona del Sur Global puede participar en línea.
Ponentes
Juan Felipe Cerón
RemotoIngeniero de investigación en alineación de IA en OpenAI. Coautor de IH-Challenge (RL para resistir inyección de prompts), y de LLM Critics (modelos de crítica para evaluar salidas de LLMs).
LinkedIn
Alejandro Toro
Congreso de la República de Colombia
PresencialRepresentante a la Cámara. Coautor y coordinador para primer debate del Proyecto de Ley 368/2025, que prohíbe los sistemas de armas autónomas letales (SAAL) y regula los semiautónomos.
Perfil en la CámaraJurado
Juan Liévano-Karim
RemotoEvalúa: Control de IA
Coautor con Stuart Russell de un marco de aprendizaje por refuerzo con consulta a mentor, diseñado para reducir el riesgo catastrófico de sistemas de IA.
OpenReview Juan Felipe Cerón Uribe
RemotoEvalúa: Ataques adversariales · Control de IA
Autor de IH-Challenge, benchmark de RL para resistir inyección de prompts en agentes LLM; y de LLM Critics, modelos críticos para supervisar outputs de LLMs.
LinkedIn
Diego Gomez
YouTube (Google)
RemotoEvalúa: Interpretabilidad mecanicista
Trabaja en seguridad de LLMs multimodales en YouTube y desarrolla un proyecto de interpretabilidad mecanicista sobre persona vectors en BlueDot Impact.
LinkedIn
Alejandro Acelas
RemotoEvalúa: Interpretabilidad mecanicista
Coautor en ORCG de Cómputo para el bien, sobre supercomputación europea para IA; autor de Capture the Flag, retos de reparar pesos y detectar backdoors en transformers.
LinkedIn
Melissa Robles
PresencialEvalúa: Auditoría de comportamiento
Coautora de SESGO, evaluación de sesgos culturales en LLMs en español, y de un modelo de traducción al wayuunaiki, lengua indígena hablada en La Guajira.
LinkedIn
Catalina Bernal
PresencialEvalúa: Auditoría de comportamiento
Coautora de SESGO, evaluación de sesgos culturales en LLMs en español, y contribuyente reconocida en la Guía de Auditoría Comunitaria de Eticas.
LinkedIn
Steve Hege
PresencialEvalúa: Gobernanza de SAAL
Director del Instituto Latinoamericano para la Paz y la Seguridad sobre IA en defensa y seguridad; antes investigador ONU sobre embargos de armas.
LinkedIn
Wanda Muñoz
Red Feminista de IA en América Latina y el Caribe
RemotoEvalúa: Gobernanza de SAAL
Coautora del estudio Los riesgos de las armas autónomas (SEHLAC, 2020) sobre interseccionalidad en LATAM, y de un capítulo UNESCO/Mila sobre deepfakes.
LinkedIn
Maria Paula Mujica
PresencialEvalúa: Monitoreo del ecosistema · Regulación de IA
Lidera el Artificial Intelligence Landscape Assessment (AILA) del PNUD en 16+ países del Sur Global. Coautora del Marco Ético para la IA en Colombia.
LinkedIn
Mónica Ulloa
Carreras con Impacto · BID Lab
RemotoEvalúa: Regulación de IA
Coautora en ORCG de La securitización de la inteligencia artificial, sobre cómo enmarcarla como amenaza o como riesgo lleva a regulaciones muy distintas.
LinkedIn
Germán López-Ardila
PresencialEvalúa: Regulación de IA
Coordinó el Informe RAM Colombia (UNESCO, 2025) sobre capacidad del país para gobernar IA, y facilita el curso UNESCO Alfabetización en IA para Servidores.
LinkedIn
Katerine Hernández
PresencialEvalúa: Auditoría y rendición de cuentas de sistemas
Dictó capacitación a +400 servidores del Distrito de Bogotá sobre uso responsable de IA, y co-lidera el programa recurrente desde la Secretaría de Gobierno.
LinkedInPreguntas frecuentes
-
¿Es gratuito participar en el hackathon?
Sí. La participación es totalmente gratuita, tanto en línea como en el hub presencial de Bogotá. Los participantes del hub reciben alimentación y bebidas durante los tres días.
-
¿Necesito experiencia previa en AI safety o alineación de IA?
No. El hackathon recibe a personas sin background previo en AI safety. Apart Research publica materiales introductorios antes del evento, y durante los tres días hay mentorías en vivo para aterrizar conceptos y herramientas.
-
¿Cuándo es el hackathon y hasta cuándo puedo postular?
El hackathon es del 19 al 21 de junio de 2026. La fecha límite para postular al hub presencial en Bogotá es el 12 de junio de 2026. El registro al evento en línea con Apart Research permanece abierto hasta el inicio del evento.
-
¿Qué tipo de proyectos puedo presentar?
Los proyectos se enmarcan en cuatro tracks: Technical AI Safety (alineación, interpretabilidad, evaluaciones), AI Security (red-teaming, jailbreaks, adversarial robustness), AI Governance (política, regulación, estándares) y Behavioral Audit con foco multilingüe e intercultural. Cada equipo entrega un reporte de investigación al cierre.
-
¿Cuáles son los premios?
USD 3.000 repartidos entre los tres mejores equipos de LATAM. Adicionalmente, los equipos ganadores reciben una invitación al Apart Lab Fellowship, donde algunos fellows han publicado en conferencias como ICLR, NeurIPS y ACL.
-
¿Se postula en equipo o de forma individual?
La selección al hub presencial de Bogotá es individual: cada persona se postula y se evalúa por su cuenta. Durante el hackathon trabajas en equipo de 3 a 5 personas, y son los propios participantes quienes forman sus equipos entre las personas seleccionadas. No es una participación individual ni se admiten equipos preformados.
-
¿Quién puede participar y hay restricciones geográficas o de perfil?
El hackathon está abierto al Global South con énfasis en LATAM. Pueden participar estudiantes, investigadores, ingenieros de ML, desarrolladores, profesionales de política pública y ciberseguridad, así como personas de otras disciplinas interesadas en seguridad de IA. No hay restricciones por edad. Puedes unirte de forma remota desde cualquier país o presencialmente desde el hub de Bogotá.
-
¿Qué es la alineación de IA y por qué importa?
La alineación de IA estudia cómo construir sistemas de IA que persigan los objetivos que los humanos realmente queremos, incluso a medida que se vuelven más capaces. Áreas activas incluyen interpretabilidad mecanística, red-teaming, evaluaciones (evals) y gobernanza. Organizaciones como Apart Research, BlueDot Impact y AI Safety Camp están formando talento en estos temas en todo el mundo.
-
¿Habrá mentoría durante el evento?
Sí. Durante los tres días hay mentorías, charlas y sesiones de Q&A en vivo con investigadores, jueces y expertos de YouTube (Google), PNUD, BID Lab, ILAPS, BIP Colombia, 80,000 Hours, Carreras con Impacto y CCIT.
Participación en línea abierta
Las postulaciones al hub presencial de Bogotá cerraron. Súmate al hackathon en línea con Apart Research.
En colaboración con
Apart Research
Red internacional de investigación en seguridad de IA. Organizadores del Global South AIS Hackathon.
Con el apoyo de
Schmidt Sciences