Canal
Canal de Robert Miles
Robert Miles AI Safety
La biblioteca de referencia en video sobre alineación, control y los retos abiertos en seguridad de IA, presentada con rigor y sin requisitos técnicos.
Ver el canalRecursos
Lecturas, videos, podcasts, libros y cursos sobre seguridad de IA seleccionados por la comunidad. Cubre desde los fundamentos del campo hasta alineación técnica, gobernanza y evaluación de modelos.
Videos
Canal
Rational Animations
YouTube
Un canal de animaciones que adapta ensayos clásicos sobre IA, racionalidad y riesgo existencial a un formato visual cuidado.
Ver el canal
Canal
Doom Debates
Liron Shapira
Debates y entrevistas semanales sobre riesgo existencial por IA, con investigadores, escépticos y formuladores de política.
Ver el canal
Canal
Machine Learning Street Talk
MLST
Entrevistas largas con investigadores de primera línea (Stuart Russell, Yoshua Bengio, Max Tegmark) sobre los límites y los riesgos del aprendizaje profundo.
Ver el canalLecturas
Lectura
Preventing an AI-related catastrophe
80,000 Hours
Un perfil de problema riguroso sobre los riesgos de la IA avanzada y qué se puede hacer al respecto.
Leer el perfil
Lectura
AGI Safety from First Principles
Richard Ngo
Una secuencia fundacional que reconstruye el caso por el riesgo de la IA general desde cero, sin presuponer literatura previa.
Leer el perfil
Lectura
Frontier AI Regulation
Anderljung et al. · 2023
La propuesta de referencia sobre cómo regular los modelos de IA de frontera: evaluaciones previas, licencias y obligaciones de seguridad para los desarrolladores.
Leer el perfil
Lectura
Core Views on AI Safety
Anthropic
La declaración de Anthropic sobre por qué la seguridad de la IA es urgente y cómo el laboratorio piensa abordarla en la práctica.
Leer el perfilPodcasts
Podcast
AXRP
Daniel Filan
El podcast de referencia en investigación técnica de alineación: entrevistas extensas con investigadores activos sobre sus artículos.
Escuchar el podcast
Podcast
The 80,000 Hours Podcast
80,000 Hours
Conversaciones largas con investigadores, fundadores y formuladores de política de IA sobre cómo orientar una carrera al impacto.
Escuchar el podcast
Podcast
The Cognitive Revolution
Nathan Labenz
Conversaciones semanales con investigadores y constructores de los laboratorios de frontera sobre cómo está evolucionando la IA y qué hace falta para que salga bien.
Escuchar el podcast
Podcast
Future of Life Institute Podcast
Future of Life Institute
El podcast institucional sobre riesgo existencial por IA: entrevistas con investigadores, gobernantes y filósofos que están definiendo el campo.
Escuchar el podcastLibros
Libro
The Alignment Problem
Brian Christian
Una narración accesible de los problemas centrales para alinear la IA con valores humanos, contada a través de los investigadores que los enfrentan.
Ver el libro
Libro
Human Compatible
Stuart Russell
El argumento de uno de los pioneros del campo para redefinir la inteligencia artificial alrededor de la incertidumbre sobre los valores humanos.
Ver el libro
Libro
Superintelligence
Nick Bostrom
El libro que llevó el debate sobre los riesgos de la IA general al debate público y definió buena parte del vocabulario que usamos hoy.
Ver el libro
Libro
If Anyone Builds It, Everyone Dies
Yudkowsky & Soares · 2025
El caso más directo publicado hasta ahora sobre por qué construir una IA superinteligente, con las técnicas actuales, terminaría mal para todos.
Ver el libroCursos
Curso
The Future of AI
BlueDot Impact
Un curso introductorio gratuito sobre hacia dónde va la IA y por qué su seguridad importa.
Ver el curso
Curso
AGI Safety Course
Google DeepMind
Un curso corto del equipo de seguridad de DeepMind sobre los riesgos de la IA de nivel humano y cómo se está abordando la alineación.
Ver el curso
Curso
ARENA
Acelerador para Ingenieros de Investigación
Currículo intensivo de cinco semanas sobre interpretabilidad, evaluaciones y RL para personas que ya programan en PyTorch.
Ver el curso
Curso
AI Safety, Ethics & Society
Center for AI Safety
Libro de texto y curso abierto del CAIS que cubre los riesgos catastróficos de la IA y los marcos éticos para enfrentarlos.
Ver el curso Mapa del ecosistema
El campo completo, en un solo lugar
aisafety.com es un directorio abierto de la seguridad de IA: un mapa interactivo de cientos de organizaciones y proyectos, además de comunidades, cursos y empleos.
Abrir el mapa del campo¿Listo para el siguiente paso?
Estos recursos rinden más en comunidad. Únete a un grupo de discusión y recórrelos con otras personas.