Volumen IX · Nivel avanzado
La ética y el futuro
Qué son los riesgos de sufrimiento futuro y cómo prevenirlos
Sobre este volumen
Este libro presenta el debate sobre cuestiones éticas relativas al futuro a largo plazo, en especial los riesgos de sufrimiento futuro: qué son, cómo identificarlos y cómo prevenirlos.
ISBN 978-65-01-55743-4 · 1.ª edición, julio de 2025. Texto original de Luciano Carlos Cunha, traducido al español.
En pocas palabras
El futuro puede contener muchos más seres sintientes que el presente, y mucho más sufrimiento. Este volumen presenta los riesgos-s, la imparcialidad temporal, el largoplacismo, los factores de riesgo, las estrategias amplias y focalizadas, y el papel de la política y de las tecnologías emergentes, como la inteligencia artificial.
Para niños
Los niños que nacerán dentro de cien años todavía no existen, pero sentirán todo lo que les pase. Lo mismo vale para los animales del futuro. Este libro pregunta: ¿qué podemos hacer hoy para que el futuro no guarde una cantidad gigantesca de sufrimiento?
Vas a aprender
- Qué son los riesgos-s y en qué se diferencian de los riesgos-x
- Por qué el futuro importa tanto como el presente
- Qué factores aumentan los riesgos de sufrimiento futuro
- Cómo encajan la política y la IA en esta discusión
Conviene haber leído: los Volúmenes II y VIII.
¿Empiezas desde cero?
Cada capítulo tiene una versión simplificada, escrita para quien no conoce el tema. Lee primero la versión sencilla y después el texto completo del autor.
- Riesgos futuros para los seres sintientes: una introducción
- Imparcialidad temporal: qué es y por qué es importante
- La objeción de que los seres futuros son solo seres en potencia
- ¿Qué razones hay para centrarnos en el largo plazo?
- ¿Debemos centrarnos en prevenir riesgos-s o riesgos-x?
- ¿Qué metas priorizar a largo plazo?
- ¿En qué consiste el enfoque en los riesgos-s?
- Cómo identificar los factores de riesgo de los riesgos-s
- Estrategias largoplacistas: amplias y dirigidas
- ¿Por qué centrarse en la consideración por los seres sintientes y en el futuro?
- Cómo cambiar el debate público, las formas de activismo y las instituciones políticas
- Cómo moldear las tecnologías emergentes para prevenir el sufrimiento futuro
- La tríada de influencia y el sufrimiento futuro
Capítulos
- 1Riesgos futuros para los seres sintientes: una introducción16 min
Los riesgos-s son riesgos de sufrimiento futuro a una escala mayor que todo el sufrimiento que ha existido hasta ahora; se diferencian de los riesgos-x (extinción humana), su gravedad es la magnitud por la probabilidad, y surgen de modo incidental, agencial o natural.
- 2Imparcialidad temporal: qué es y por qué es importante9 min
La imparcialidad temporal consiste en dar el mismo peso a un sufrimiento sea cuando sea que ocurra; el sesgo temporal y la idea de que los seres futuros son solo potenciales no justifican desatenderlos. La preocupación por el futuro debe rechazar el especismo, y viceversa.
- 3La objeción de que los seres futuros son solo seres en potencia7 min
Incluso quien niega el deber de crear nuevos seres tiene deberes hacia los seres futuros, como no causarles sufrimiento; y la lucha por los animales ya es, en general, sobre seres futuros: los que nacerían para sufrir en la explotación.
- 4¿Qué razones hay para centrarnos en el largo plazo?12 min
El largoplacismo puede ser una meta (tener el mejor impacto en toda la historia) o un enfoque práctico (actuar pensando en el largo plazo); hay buenas razones para el enfoque práctico, e incluso quien da prioridad al presente tiene razones para aceptar la meta.
- 5¿Debemos centrarnos en prevenir riesgos-s o riesgos-x?6 min
Hay razones para centrarse más en los riesgos-s que en los riesgos-x: los intentos de justificar el foco en los riesgos-x porque la humanidad sería "esencial" o porque atrae más recursos suelen ser especistas; pero una meta no excluye la otra.
- 6¿Qué metas priorizar a largo plazo?16 min
Entre las posibles metas a largo plazo, hay razones para dar un peso adicional a prevenir el sufrimiento (y las muertes prematuras): varias teorías aceptan ese enfoque, y no hace falta ser muy pesimista sobre el futuro para adoptarlo.
- 7¿En qué consiste el enfoque en los riesgos-s?3 min
Centrarse en los riesgos-s no significa centrarse en unos pocos escenarios concretos: el sufrimiento futuro puede venir de la suma de muchos riesgos; colectivamente, debemos cubrir un abanico amplio, aunque cada persona se especialice.
- 8Cómo identificar los factores de riesgo de los riesgos-s8 min
Aun sin prever el futuro en detalle, podemos identificar factores de riesgo para los riesgos-s: la tecnología avanzada, la aversión a la tecnología, la falta de consideración por los no humanos, la falta o ineficacia de los esfuerzos, la polarización y la falta de seguridad frente a agentes malévolos.
- 9Estrategias largoplacistas: amplias y dirigidas5 min
Las estrategias amplias buscan un buen impacto en casi todos los escenarios; las dirigidas, un gran impacto en escenarios concretos. Ejemplos amplios: aumentar la consideración por los seres sintientes; dirigidos: evitar nuevas formas de explotación, crear la biología del bienestar, alinear la IA de forma no antropocéntrica.
- 10¿Por qué centrarse en la consideración por los seres sintientes y en el futuro?5 min
La manera en que afectaremos a los seres futuros se discute poco; promover la consideración por todos los seres sintientes es central para prevenir el sufrimiento futuro, pero hacerlo tiene riesgos, y aún no sabemos cuál es la forma más eficiente; hay que mantener la mente abierta.
- 11Cómo cambiar el debate público, las formas de activismo y las instituciones políticas14 min
Una política disfuncional aumenta los riesgos-s; para mejorarla, debemos reducir el tribalismo, elevar el nivel del debate (discutir argumentos, no personas; honestidad intelectual), adoptar enfoques de abanico amplio, proteger la democracia y buscar representación para todos los seres sintientes.
- 12Cómo moldear las tecnologías emergentes para prevenir el sufrimiento futuro10 min
Las tecnologías emergentes pueden multiplicar el sufrimiento: el capítulo analiza cómo orientar la inteligencia artificial con foco en los riesgos-s, evitar los riesgos indirectos de la IA, gestionar la colonización espacial y el riesgo de crear nuevas formas de sintiencia.
- 13La tríada de influencia y el sufrimiento futuro28 min
La tríada de la influencia (la intención, el conocimiento y el poder de un agente) ayuda a evaluar el sufrimiento que puede resultar de las decisiones: los agentes que quieren perjudicar o son indiferentes, y tienen mucho poder, son los más peligrosos; querer el bien sin conocimiento o sin poder tiende a ser ineficaz.