Investigación
Acá está lo que publica la gente de la comunidad: artículos revisados por pares, documentos de trabajo, reportes de investigación y los productos de nuestras hackathones.
Publicaciones de la comunidad
La lista está abierta. Si eres de la comunidad y publicaste algo, escríbenos y lo agregamos.
- Documento de trabajo
AI Benefit-Sharing Framework: Balancing Access and Safety
Propone un marco para repartir los beneficios de la IA sin bajar el estándar de seguridad. Se apoya en tres piezas: redistribuir parte de los retornos económicos, compartir tecnología y capacidad técnica, y contener la difusión de capacidades peligrosas. El argumento de fondo es que la gobernanza actual no resuelve quién accede a esos beneficios, y que los países de la mayoría global son los que quedan por fuera.
Leer el documento - Artículo aceptado en taller
Approximating Human Preferences Using a Multi-Judge Learned System
Cada vez se usan más modelos de lenguaje como jueces que califican las respuestas de otros modelos. El problema es que califican mal: cambian de criterio según cómo esté redactada la rúbrica, arrastran sesgos y son inestables. El trabajo propone no confiar en un solo juez sino combinar varios, cada uno con su rúbrica, y aprender cuánto pesa cada uno. El sistema resultante deja ver qué juez pesó más en cada decisión, así que se puede revisar por qué calificó como calificó.
Leer el documento - Artículo revisado por pares
La securitización de la inteligencia artificial: un análisis de sus impulsores y sus consecuencias
Estudia qué pasa cuando en Estados Unidos se habla de la inteligencia artificial como un asunto de seguridad nacional. Los autores revisan veinticinco declaraciones públicas de agencias del gobierno, organizaciones técnicas y medios, y encuentran dos maneras de plantear el problema: una habla de amenazas, señala a un adversario concreto y sirve para justificar medidas excepcionales; la otra habla de riesgos y cabe dentro de la regulación de siempre. La conclusión es que la segunda sostiene mejor la cooperación a largo plazo.
Leer el documento
Proyectos de hackathon
Equipos de la comunidad en los hackathons de Apart Research, con el reporte publicado y la evaluación de jurados externos.
Ver los otros 13 proyectos colombianos de esta edición
- Marco ético para IA aplicada a la lengua guna de Panamá
- Governance Drift Evaluation Framework
- Sistema de dos clasificadores para seguridad en modelos de lenguaje
- Los peajes de los de abajo
- Contestabilidad algorítmica en el Estado colombiano
- Comercio agéntico y protección al consumidor
- JurisGuard-LATAM
- Honest-Code
- Mapeo de herramientas de IA en los call centers colombianos
- Confía-CO
- Evaluación de uso responsable de IA en pymes latinoamericanas
- Jailbreaks estructurales en español
- Guardian LATAM
Participa en el próximo hackathon
Abrimos el hub en Bogotá para cada hackathon de Apart Research y lo anunciamos primero en el grupo de WhatsApp.