Dois tipos de risco
- Riscos-s: riscos de sofrimento gigantesco no futuro.
- Riscos-x (riscos existenciais): riscos de que a humanidade seja extinta ou de que a civilização entre em colapso.
Qual deles devemos priorizar para ter o melhor impacto?
Uma defesa especista dos riscos-x
Alguns dizem: "devemos focar nos riscos-x porque os humanos importam muito mais".
O autor mostra dois problemas:
- não há como justificar dar mais peso aos humanos só por serem humanos;
- mesmo dando muito mais peso aos humanos, o número de seres que podem ser afetados pelos riscos-s é astronomicamente maior. Então ainda valeria mais a pena prevenir os riscos-s.
"A humanidade é necessária para evitar o sofrimento"
Outros dizem: "devemos evitar a extinção humana porque só os humanos poderão diminuir o sofrimento no futuro".
Isso depende de como a humanidade vai agir. Há três cenários:
- a humanidade continua e causa menos sofrimento do que se fosse extinta;
- a humanidade é extinta;
- a humanidade continua e causa mais sofrimento, por exemplo espalhando a exploração ou criando mentes digitais que sofrem.
O primeiro é o melhor; o terceiro é pior do que o segundo. Então, não basta garantir que a humanidade sobreviva: é preciso garantir como ela vai agir.
"Focar em humanos traz mais recursos"
Há quem diga que, como as pessoas são especistas, falar só de humanos traria mais apoio. Mas isso tem o risco de reforçar o especismo, que é uma das maiores fontes de riscos-s.
Resumindo
- Riscos-s são de sofrimento; riscos-x são de extinção humana.
- Mesmo dando mais peso aos humanos, os riscos-s afetam muito mais seres.
- A sobrevivência da humanidade só é boa se ela diminuir o sofrimento.