Sobre nosotros

Capítulo colombiano dedicado a estudiar los riesgos de los sistemas de IA avanzados. Aquí contamos quiénes somos, cómo nació el grupo y las tres palancas que articulan nuestro trabajo: comunidad, formación y eventos.

Misión

Reducir los riesgos existenciales y catastróficos de la inteligencia artificial.

Formamos talento local, producimos investigación relevante y conectamos a Colombia con la comunidad global de seguridad de IA.

Por qué ahora

Por qué esto importa

La inteligencia artificial avanza más rápido que nuestra capacidad de entenderla y gobernarla. Estas son las ideas que guían nuestro trabajo.

La IA avanza más rápido que las instituciones

Los sistemas de IA mejoran a un ritmo que supera la velocidad a la que las leyes, las universidades y los gobiernos pueden adaptarse. Esa brecha, entre lo que la tecnología ya puede hacer y lo que estamos preparados para manejar, es donde aparecen los mayores riesgos.
Las personas correctas, a tiempo, cambian la trayectoria

Cada tecnología la moldea quién está en la sala cuando se toman las decisiones. Formar hoy a investigadores y responsables de política en seguridad de IA es la forma más concreta de influir en cómo se desarrolla.
El sur global no puede quedar fuera de esta conversación

Las decisiones sobre IA se concentran en unos pocos centros del norte global, pero sus consecuencias son de todos. Colombia y América Latina necesitan voz y talento propios en cómo se construye y se gobierna esta tecnología.

Nuestra historia

¿Cómo empezamos?

AI Safety Colombia comenzó en 2024. Su primera actividad pública fue una charla sobre los dilemas éticos de la superinteligencia, en la Universidad de los Andes, en septiembre de ese año. La organización fue cofundada por Jose Gelves y Fernando Avalos-López.

Ese mismo año pusimos en marcha nuestros dos primeros fellowships, en gobernanza y en seguridad técnica de la IA, con sesiones semanales y mentoría individual. Después llegaron la primera edición de ML4G en Colombia, un fellowship sobre la economía de la AGI y grupos de discusión en política de IA. A todo esto lo acompaña un ritmo constante de charlas, paneles y cenas que acercan a la comunidad a investigadores y responsables de la política de IA del país, entre ellos autores del marco ético de IA de Colombia y miembros del Global Partnership on AI.

Hoy coordinamos el hub de Bogotá del Global South AI Safety Hackathon de Apart Research, que conecta a la comunidad local con una red internacional de investigación en seguridad de IA. Nuestro trabajo de construcción de campo ha contado con el apoyo de una subvención de Coefficient Giving.

2024
Primera charla pública, sobre superinteligencia, en la Universidad de los Andes.
2024
Los dos primeros fellowships de la comunidad: gobernanza y seguridad técnica de la IA.
2025
Primera edición de ML4G en Colombia, con cerca de 20 participantes.
2025
Fellowship sobre la economía de la AGI y el primer grupo de discusión en política de IA.
2026
Hub de Bogotá del Global South AI Safety Hackathon.

Teoría de cambio

Cómo creemos que ocurre el cambio: tres palancas que se refuerzan entre sí.

Comunidad

Una comunidad hace sostenible el trabajo en seguridad de la IA: las personas se encuentran, colaboran y dejan de avanzar en solitario.

Aprendizaje

Con buena formación, más personas pasan del interés a contribuir de verdad, en investigación técnica o en gobernanza de la IA.

Eventos

Los encuentros acercan a la comunidad a investigadores y responsables de política, y abren puertas hacia el campo global.

Hacia dónde vamos

Lo que estamos construyendo

Esas tres palancas nos orientan hacia tres objetivos de largo plazo, los que definen el rumbo de AI Safety Colombia.

Investigación desde la región

Aspiramos a que desde Colombia y América Latina se produzca investigación original en seguridad de IA. Hoy damos los primeros pasos: conectamos a la comunidad con la formación, las herramientas y las oportunidades para llegar ahí.

Una comunidad que crece

Queremos que más personas en Colombia, estudiantes, profesionales e investigadores, encuentren en la seguridad de IA un campo donde aportar.

Presencia en la conversación pública

Buscamos que la seguridad de IA tenga un lugar en el debate de política y tecnología en Colombia, aportando información rigurosa a quienes toman decisiones.

Equipo

AI Safety Colombia es una organización pequeña, liderada por voluntarios y sostenida por una comunidad más amplia.

En memoria

Fernando Avalos-López

Cofundador

Investigador en alineación de IA, Apart Research

Ingeniero de sistemas de la Universidad de los Andes. Fue de los primeros en impulsar la investigación en seguridad de IA en el país.

Fernando ayudó a imaginar y construir esta comunidad desde el principio. Su memoria sigue presente en lo que hacemos.

Jose Gelves

Cofundador y organizador

Investigador en política de IA y gobierno digital

Politólogo de la Universidad de los Andes, interesado en cómo se gobierna la tecnología. Ha investigado la IA en elecciones y el empleo, evaluado la transformación digital del Estado colombiano y lidera Altruismo Eficaz Bogotá.

LinkedIn [email protected]

Leonardo Párraga

Organizador

Constructor de coaliciones en sociedad civil, filantropía y gobernanza de IA

Magíster en Política Educativa Internacional de Harvard, con trabajo en más de 25 países. Fundó BogotArt y la Coalición Colombiana de Juventudes, Paz y Seguridad, y dirige recursos hacia las causas de mayor impacto en América Latina.