Eco
Juan Felipe Jiménez Pacheco, Ana María Vargas Murcia y Sadid Alexis Romero Mahecha
Presentado al Defensive Acceleration Hackathon. Es un trabajo temprano de sus participantes y no una publicación de AI Safety Colombia.
Resumen
ECO: how many real sources are behind what reaches you?
AI makes it almost free to clone a news story across dozens of sites, fake a photo's date and clone a voice for a WhatsApp voice note. People and AI agents count that repetition as confirmation.
ECO answers three questions with a plain-language verdict. How many real sources are there? An LLM extracts the facts in each article and an auditable rule, in chronological order, separates original reporting from repetition. Where does this photo or video come from, and was it made by AI? It verifies C2PA credentials, AI markers in metadata and forensic filters. Is this voice real? An AASIST-L detector retrained on WhatsApp-like audio. A voice note or screenshot becomes a claim that an agent investigates live, ending with the source to read first and why. It runs as a bilingual web app, a Chrome extension and an MCP server.
Results: on 18 held-out worlds ECO counts sources correctly 92 % of the time versus 83 % for text similarity; with its report, an agent says "confirmed" with a single origin 22 % of the time instead of 51 %; with C2PA, rewritten copies that reuse the signed photo go from 0 % to 100 % detection. The off-the-shelf voice detector performs like chance on real audio (48.5 % error); retrained, it drops to 28.7 % and barely degrades under compression. ECO does not say what is true: it shows the evidence.
Comentarios del jurado
Escritos por el jurado durante la evaluación. Se publican sin nombre, sin nota y en orden aleatorio.
El problema es muy bueno. Esta delimitado y buscan una métrica razonable de cuantas fuentes son unicas sin decir exactamente si es o no real, si no un buen soporte. Me gustó bastante, es útil, acotado, pertinente y factible.
Propuesta relevante y bien desarrollada para la defensa epistémica frente a desinformación amplificada por inteligencia artificial. Destaca el enfoque de medir la independencia de las fuentes en lugar de depender únicamente de la similitud textual, así como la integración de análisis multimedia y herramientas accesibles desde aplicaciones y agentes mediante MCP. Se valora positivamente la separación entre datos de ajuste y evaluación, las comparaciones cuantitativas y el reconocimiento de limitaciones. Como oportunidades de mejora, recomendamos ampliar la validación sobre noticias reales, fortalecer la distinción entre novedad factual e independencia de origen y mejorar la precisión del detector de voces sintéticas bajo compresión. También sería importante aclarar los tamaños de los conjuntos experimentales y evaluar la robustez frente a campañas coordinadas que introducen información falsa novedosa. Es una propuesta prometedora, con potencial práctico y una integración técnica destacable.
no demuestran una clara eficiencia en la reducción de riesgos por la generación de contenidos por AI
TL;DR: La idea de contar fuentes independientes es clara. Pero las pruebas son pequeñas y no usan noticias reales. Qué funciona - Con el informe de ECO, el agente dice «confirmado» en 22 % de las historias de un solo origen. Sin el informe lo dice en 51 %. (README.md, línea 125) - Separaron un held-out set y reportan ese resultado (92 %), no el 100 % de desarrollo. (README.md, línea 132) Qué limita la evidencia - Las pruebas son pequeñas y las escribió el equipo. Las paráfrasis son hechas a mano. (README.md, línea 133) - No hay medición en noticias reales. La prueba en la web fue una sola corrida, sin registro. (docs/summary_EN.md, línea 104) Baseline más barato - El detector de voz AASIST-L original tuvo 49,7 % de EER con compresión tipo WhatsApp. Con su fine-tuning bajó a 28,7 %. (Ficha técnica, línea 97) Siguiente paso - Pidan a otro equipo que escriba casos de corroboración falsa contra su sitio en vivo. - Midan ECO en noticias reales y compárenlo con un verificador humano. Literatura relevante (muy similar, no exhaustiva) - Illusory Truth or Mere Exposure? Model-Dependent Repetition Effects in LLM-Based Social Media Simulation (2026), arXiv 2609.36278 - Toward Verifiable Misinformation Detection: A Multi-Tool LLM Agent Framework (2025), arXiv 2508.03092 Comentario preparado por un jurado con apoyo de Claude Opus 5.5. Verificamos cada punto contra sus propios archivos (se indica archivo y línea) y lo comparamos con trabajos publicados.
Citar este proyecto
BibTeX
@misc{jimenez2026eco,
title={{Eco}},
author={Juan Felipe Jiménez Pacheco and Ana María Vargas Murcia and Sadid Alexis Romero Mahecha},
year={2026},
month={November},
note={Presentado al Defensive Acceleration Hackathon, AI Safety Colombia, Bogotá},
howpublished={\url{https://aisafetycolombia.org/defacchackathon/proyectos/ecotrace-team}},
url={https://aisafetycolombia.org/defacchackathon/proyectos/ecotrace-team}
}


