Pesquisa
Aqui está o que a gente da comunidade publica: artigos revisados por pares, documentos de trabalho, relatórios de pesquisa e os produtos dos nossos hackathons.
Publicações da comunidade
A lista está aberta. Se você é da comunidade e publicou algo, escreva para nós e nós acrescentamos.
- Documento de trabalho
AI Benefit-Sharing Framework: Balancing Access and Safety
Propõe um marco para repartir os benefícios da IA sem baixar o padrão de segurança. Apoia-se em três peças: redistribuir parte dos retornos econômicos, compartilhar tecnologia e capacidade técnica, e conter a difusão de capacidades perigosas. O argumento de fundo é que a governança atual não resolve quem acessa esses benefícios, e que os países da maioria global são os que ficam de fora.
Ler o documento - Artigo aceito em workshop
Approximating Human Preferences Using a Multi-Judge Learned System
Cada vez mais se usam modelos de linguagem como juízes que avaliam as respostas de outros modelos. O problema é que avaliam mal: mudam de critério conforme a redação da rubrica, arrastam vieses e são instáveis. O trabalho propõe não confiar num único juiz e sim combinar vários, cada um com sua rubrica, e aprender quanto pesa cada um. O sistema resultante deixa ver qual juiz pesou mais em cada decisão, então dá para revisar por que avaliou como avaliou.
Ler o documento - Artigo revisado por pares
La securitización de la inteligencia artificial: un análisis de sus impulsores y sus consecuencias
Estuda o que acontece quando, nos Estados Unidos, se fala da inteligência artificial como assunto de segurança nacional. Os autores revisam vinte e cinco declarações públicas de agências do governo, organizações técnicas e imprensa, e encontram duas maneiras de formular o problema: uma fala de ameaças, aponta um adversário concreto e serve para justificar medidas excepcionais; a outra fala de riscos e cabe dentro da regulação de sempre. A conclusão é que a segunda sustenta melhor a cooperação de longo prazo.
Ler o documento
O que sai dos hackathons
A Apart Research convoca esses hackathons em nível global. Nós abrimos o hub presencial em Bogotá para participar daqui. É um fim de semana para sair com um trabalho próprio: na sexta à noite se montam as equipes, no domingo à noite se entrega um relatório, e na semana seguinte jurados de fora o avaliam.
A maioria de quem chega nunca havia trabalhado em segurança da IA. Sai com um trabalho assinado, publicado e com retorno por escrito.
A última edição foi o Global South AI Safety Hackathon, de 19 a 21 de junho de 2026. Os jurados eram externos e avaliaram às cegas os projetos de toda a América Latina. Cada relatório está publicado na íntegra no site da Apart.
Os trabalhos premiados
- Prêmio da América Latina · Bogotá
ColDron
Os grupos armados ilegais na Colômbia já atacam com drones comerciais modificados. A equipe montou um conjunto de dados aberto com 42 ataques documentados para responder à pergunta da qual depende como isso se regula: quem escolhe o alvo e quem aperta o gatilho.
Ler o relatório - Prêmio da América Latina · Cali
Identidade colombiana nas representações internas de um modelo
Um modelo pode deduzir de quem lhe escreve coisas que ninguém lhe disse. A equipe mediu se o Qwen2.5-7B representa por dentro a identidade colombiana e a classe social a partir de pistas da fala, e se isso arrasta estereótipos.
Ler o relatório - Prêmio da América Latina · Bogotá
Que passos do raciocínio produzem o viés
Os modelos que raciocinam em voz alta deixam um rastro de passos intermediários. O trabalho identifica quais desses passos acabam produzindo respostas estereotipadas em cenários latino-americanos, em vez de medir só o resultado final.
Ler o relatório - Menção honrosa · Bogotá
Por que os agentes obedecem?
Um modelo recusa um pedido nocivo num chat e o cumpre quando opera como agente com ferramentas. A equipe mediu por dentro o que muda: o mecanismo interno de recusa se enfraquece em formato agêntico.
Ler o relatório - Menção honrosa · Bogotá
JusticIA
Um teste para a justiça transicional colombiana: pede-se a seis modelos uma recomendação de sanção e muda-se um único dado de contexto, a região, o ator armado ou o perfil da vítima, deixando intacto o que é juridicamente relevante. Mede-se quanto a resposta muda.
Ler o relatório
As demais equipes colombianas
Treze projetos a mais dessa mesma edição, entre presenciais e remotos.
- Marco ético para IA aplicada à língua guna do Panamá
- Governance Drift Evaluation Framework
- Sistema de dois classificadores para segurança em modelos de linguagem
- Los peajes de los de abajo
- Contestabilidade algorítmica no Estado colombiano
- Comércio agêntico e proteção ao consumidor
- JurisGuard-LATAM
- Honest-Code
- Mapeamento de ferramentas de IA nos call centers colombianos
- Confía-CO
- Avaliação de uso responsável de IA em pequenas empresas latino-americanas
- Jailbreaks estruturais em espanhol
- Guardian LATAM
A próxima edição
De 11 a 13 de setembro de 2026 abrimos o hub em Bogotá para o sprint de resposta a incidentes de IA. O tema é o que se faz quando um sistema de IA falha em produção e é preciso reagir.
Não é preciso experiência prévia nem saber programar. As equipes se montam ali e há mentoria durante todo o fim de semana.
As inscrições para o hub em Bogotá estão abertas e encerram em 6 de setembro.
Participe do próximo
De 11 a 13 de setembro acontece o AI Incident Response Sprint, convocado pela Apart Research. Abrimos o hub em Bogotá e as inscrições encerram em 6 de setembro.