Pesquisa
Aqui está o que a gente da comunidade publica: artigos revisados por pares, documentos de trabalho, relatórios de pesquisa e os produtos dos nossos hackathons.
Publicações da comunidade
A lista está aberta. Se você é da comunidade e publicou algo, escreva para nós e nós acrescentamos.
- Documento de trabalho
AI Benefit-Sharing Framework: Balancing Access and Safety
Propõe um marco para repartir os benefícios da IA sem baixar o padrão de segurança. Apoia-se em três peças: redistribuir parte dos retornos econômicos, compartilhar tecnologia e capacidade técnica, e conter a difusão de capacidades perigosas. O argumento de fundo é que a governança atual não resolve quem acessa esses benefícios, e que os países da maioria global são os que ficam de fora.
Ler o documento - Artigo aceito em workshop
Approximating Human Preferences Using a Multi-Judge Learned System
Cada vez mais se usam modelos de linguagem como juízes que avaliam as respostas de outros modelos. O problema é que avaliam mal: mudam de critério conforme a redação da rubrica, arrastam vieses e são instáveis. O trabalho propõe não confiar num único juiz e sim combinar vários, cada um com sua rubrica, e aprender quanto pesa cada um. O sistema resultante deixa ver qual juiz pesou mais em cada decisão, então dá para revisar por que avaliou como avaliou.
Ler o documento - Artigo revisado por pares
La securitización de la inteligencia artificial: un análisis de sus impulsores y sus consecuencias
Estuda o que acontece quando, nos Estados Unidos, se fala da inteligência artificial como assunto de segurança nacional. Os autores revisam vinte e cinco declarações públicas de agências do governo, organizações técnicas e imprensa, e encontram duas maneiras de formular o problema: uma fala de ameaças, aponta um adversário concreto e serve para justificar medidas excepcionais; a outra fala de riscos e cabe dentro da regulação de sempre. A conclusão é que a segunda sustenta melhor a cooperação de longo prazo.
Ler o documento
Projetos de hackathon
Equipes da comunidade nos hackathons da Apart Research, com o relatório publicado e a avaliação de jurados externos.
Ver os outros 13 projetos colombianos desta edição
- Marco ético para IA aplicada à língua guna do Panamá
- Governance Drift Evaluation Framework
- Sistema de dois classificadores para segurança em modelos de linguagem
- Los peajes de los de abajo
- Contestabilidade algorítmica no Estado colombiano
- Comércio agêntico e proteção ao consumidor
- JurisGuard-LATAM
- Honest-Code
- Mapeamento de ferramentas de IA nos call centers colombianos
- Confía-CO
- Avaliação de uso responsável de IA em pequenas empresas latino-americanas
- Jailbreaks estruturais em espanhol
- Guardian LATAM
Participe do próximo hackathon
Abrimos o hub em Bogotá para cada hackathon da Apart Research e anunciamos primeiro no grupo de WhatsApp.