Dos tipos de riesgo
- Riesgos-s: riesgos de un sufrimiento gigantesco en el futuro.
- Riesgos-x (riesgos existenciales): riesgos de que la humanidad se extinga o de que la civilización colapse.
¿A cuál deberíamos dar prioridad para tener el mejor impacto?
Una defensa especista de los riesgos-x
Algunos dicen: "debemos centrarnos en los riesgos-x porque los humanos importan mucho más".
Hay dos problemas:
- no hay forma de justificar que se les dé más peso a los humanos solo por ser humanos;
- incluso dándoles mucho más peso a los humanos, el número de seres que pueden verse afectados por los riesgos-s es astronómicamente mayor. Entonces seguiría valiendo más la pena prevenir los riesgos-s.
"La humanidad es necesaria para evitar el sufrimiento"
Otros dicen: "debemos evitar la extinción humana porque solo los humanos podrán reducir el sufrimiento en el futuro".
Eso depende de cómo actúe la humanidad. Hay tres escenarios:
- la humanidad sigue y causa menos sufrimiento que si se extinguiera;
- la humanidad se extingue;
- la humanidad sigue y causa más sufrimiento, por ejemplo extendiendo la explotación o creando mentes digitales que sufren.
El primero es el mejor; el tercero es peor que el segundo. Entonces no basta con garantizar que la humanidad sobreviva: hay que garantizar cómo va a actuar.
"Centrarse en los humanos atrae más recursos"
Hay quien dice que, como la gente es especista, hablar solo de los humanos traería más apoyo. Pero eso tiene el riesgo de reforzar el especismo, que es una de las mayores fuentes de riesgos-s.
En resumen
- Los riesgos-s son de sufrimiento; los riesgos-x, de extinción humana.
- Incluso dándoles más peso a los humanos, los riesgos-s afectan a muchos más seres.
- La supervivencia de la humanidad solo es buena si reduce el sufrimiento.