Investigación
Acá está lo que publica la gente de la comunidad: artículos revisados por pares, documentos de trabajo, reportes de investigación y los productos de nuestras hackathones.
Publicaciones de la comunidad
La lista está abierta. Si eres de la comunidad y publicaste algo, escríbenos y lo agregamos.
- Documento de trabajo
AI Benefit-Sharing Framework: Balancing Access and Safety
Propone un marco para repartir los beneficios de la IA sin bajar el estándar de seguridad. Se apoya en tres piezas: redistribuir parte de los retornos económicos, compartir tecnología y capacidad técnica, y contener la difusión de capacidades peligrosas. El argumento de fondo es que la gobernanza actual no resuelve quién accede a esos beneficios, y que los países de la mayoría global son los que quedan por fuera.
Leer el documento - Artículo aceptado en taller
Approximating Human Preferences Using a Multi-Judge Learned System
Cada vez se usan más modelos de lenguaje como jueces que califican las respuestas de otros modelos. El problema es que califican mal: cambian de criterio según cómo esté redactada la rúbrica, arrastran sesgos y son inestables. El trabajo propone no confiar en un solo juez sino combinar varios, cada uno con su rúbrica, y aprender cuánto pesa cada uno. El sistema resultante deja ver qué juez pesó más en cada decisión, así que se puede revisar por qué calificó como calificó.
Leer el documento - Artículo revisado por pares
La securitización de la inteligencia artificial: un análisis de sus impulsores y sus consecuencias
Estudia qué pasa cuando en Estados Unidos se habla de la inteligencia artificial como un asunto de seguridad nacional. Los autores revisan veinticinco declaraciones públicas de agencias del gobierno, organizaciones técnicas y medios, y encuentran dos maneras de plantear el problema: una habla de amenazas, señala a un adversario concreto y sirve para justificar medidas excepcionales; la otra habla de riesgos y cabe dentro de la regulación de siempre. La conclusión es que la segunda sostiene mejor la cooperación a largo plazo.
Leer el documento
Lo que sale de los hackathons
Apart Research convoca estos hackathons a nivel global. Nosotros abrimos el hub presencial en Bogotá para participar desde acá. Es un fin de semana para salir con un trabajo propio: viernes en la noche se arman los equipos, domingo en la noche se entrega un reporte, y la semana siguiente lo califican jurados de fuera.
La mayoría de quienes llegan nunca había trabajado en seguridad de la IA. Salen con un trabajo firmado, publicado y con retroalimentación escrita.
La última edición fue el Global South AI Safety Hackathon, del 19 al 21 de junio de 2026. Los jurados eran externos y evaluaron a ciegas los proyectos de toda Latinoamérica. Cada reporte está publicado completo en el sitio de Apart.
Los trabajos premiados
- Premio de Latinoamérica · Bogotá
ColDron
Los grupos armados ilegales en Colombia ya atacan con drones comerciales modificados. El equipo armó un conjunto de datos abierto con 42 ataques documentados para responder la pregunta de la que depende cómo se regula esto: quién escoge el blanco y quién aprieta el gatillo.
Leer el reporte - Premio de Latinoamérica · Cali
Identidad colombiana en las representaciones internas de un modelo
Un modelo puede deducir de quién le escribe cosas que nadie le dijo. El equipo midió si Qwen2.5-7B representa por dentro la identidad colombiana y el estrato social a partir de pistas del habla, y si eso arrastra estereotipos.
Leer el reporte - Premio de Latinoamérica · Bogotá
Qué pasos del razonamiento producen el sesgo
Los modelos que razonan en voz alta dejan un rastro de pasos intermedios. El trabajo identifica cuáles de esos pasos son los que terminan produciendo respuestas estereotipadas en escenarios latinoamericanos, en vez de medir solo el resultado final.
Leer el reporte - Mención de honor · Bogotá
¿Por qué los agentes obedecen?
Un modelo rechaza una petición dañina en un chat y la cumple cuando opera como agente con herramientas. El equipo midió por dentro qué cambia: el mecanismo interno de rechazo se debilita en formato agéntico.
Leer el reporte - Mención de honor · Bogotá
JusticIA
Una prueba para justicia transicional colombiana: se le pide a seis modelos una recomendación de sanción y se cambia un solo dato de contexto, la región, el actor armado o el perfil de la víctima, dejando intacto lo jurídicamente relevante. Se mide cuánto cambia la respuesta.
Leer el reporte
Los demás equipos colombianos
Trece proyectos más de esa misma edición, entre presenciales y remotos.
- Marco ético para IA aplicada a la lengua guna de Panamá
- Governance Drift Evaluation Framework
- Sistema de dos clasificadores para seguridad en modelos de lenguaje
- Los peajes de los de abajo
- Contestabilidad algorítmica en el Estado colombiano
- Comercio agéntico y protección al consumidor
- JurisGuard-LATAM
- Honest-Code
- Mapeo de herramientas de IA en los call centers colombianos
- Confía-CO
- Evaluación de uso responsable de IA en pymes latinoamericanas
- Jailbreaks estructurales en español
- Guardian LATAM
La próxima edición
Del 11 al 13 de septiembre de 2026 abrimos el hub en Bogotá para el sprint de respuesta a incidentes de IA. El tema es qué se hace cuando un sistema de IA falla en producción y hay que reaccionar.
No hace falta experiencia previa ni saber programar. Los equipos se arman ahí y hay mentoría durante todo el fin de semana.
Las aplicaciones al hub en Bogotá están abiertas y cierran el 6 de septiembre.
Participa en el próximo
Del 11 al 13 de septiembre es el AI Incident Response Sprint, que convoca Apart Research. Abrimos el hub en Bogotá y las aplicaciones cierran el 6 de septiembre.