Volume IX · Nível avançado
A ética e o futuro
O que são riscos de sofrimento futuro e como preveni-los
Sobre este volume
Este livro apresenta o debate sobre questões éticas referentes ao futuro em longo prazo, em especial os riscos de sofrimento futuro: o que são, como identificá-los e como preveni-los.
ISBN 978-65-01-55743-4 · 1a edição, Julho de 2025. Texto original de Luciano Carlos Cunha.
Em poucas palavras
O futuro pode conter muito mais seres sencientes do que o presente, e muito mais sofrimento. O volume apresenta os riscos-s, a imparcialidade temporal, o longoprazismo, os fatores de risco, estratégias amplas e direcionadas, o papel da política e das tecnologias emergentes, como a inteligência artificial.
Para crianças
As crianças que vão nascer daqui a cem anos ainda não existem, mas vão sentir tudo o que acontecer com elas. O mesmo vale para os animais do futuro. Este livro pergunta: o que podemos fazer hoje para que o futuro não tenha um sofrimento gigante?
Você vai aprender
- O que são riscos-s e como se diferenciam dos riscos-x
- Por que o futuro importa tanto quanto o presente
- Quais fatores aumentam os riscos de sofrimento futuro
- Como a política e a IA entram nessa discussão
Ajuda ter lido: Volumes II e VIII.
Começando do zero?
Cada capítulo tem uma versão simplificada, em linguagem para quem não conhece o tema. Leia a versão simples e depois o texto completo do autor.
- Riscos futuros para os seres sencientes: uma introdução
- Imparcialidade temporal: o que é, e por que é importante
- A objeção de que seres futuros são apenas seres em potencial
- Que razões existem para focarmos no longo prazo?
- Devemos focar em prevenir riscos-s ou riscos-x?
- Quais metas priorizar em longo prazo?
- De que consiste o foco nos riscos-s?
- Identificando fatores de risco para os riscos-s
- Estratégias longoprazistas: amplas e direcionadas
- Por que focar na consideração pelos seres sencientes e no futuro?
- Mudando o debate público, as formas de ativismo e as instituições políticas
- Moldando as tecnologias emergentes para prevenir sofrimento futuro
- A tríade de influência e o sofrimento futuro
Capítulos
- 1Riscos futuros para os seres sencientes: uma introdução15 min
Riscos-s são riscos de sofrimento futuro em escala maior que todo o sofrimento já existente; diferem dos riscos-x (extinção humana), sua seriedade é gravidade vezes probabilidade, e surgem de modo incidental, agencial ou natural.
- 2Imparcialidade temporal: o que é, e por que é importante8 min
Imparcialidade temporal é dar o mesmo peso a um sofrimento seja quando ele ocorrer; o viés temporal e a ideia de que seres futuros são só potenciais não justificam desconsiderá-los. A preocupação com o futuro deve rejeitar o especismo, e vice-versa.
- 3A objeção de que seres futuros são apenas seres em potencial7 min
Mesmo quem nega o dever de criar novos seres tem deveres para com seres futuros, como não lhes causar sofrimento; e a luta pelos animais já é, em geral, sobre seres futuros, os que nasceriam para sofrer na exploração.
- 4Que razões existem para focarmos no longo prazo?12 min
Longoprazismo pode ser uma meta (ter o melhor impacto na história inteira) ou um foco prático (agir pensando no longo prazo); há boas razões para o foco prático, e até quem prioriza o presente tem razões para aceitar a meta.
- 5Devemos focar em prevenir riscos-s ou riscos-x?5 min
Há razões para focar mais nos riscos-s do que nos riscos-x: as tentativas de justificar o foco nos riscos-x por ser a humanidade "essencial" ou por atrair mais recursos costumam ser especistas; mas uma meta não exclui a outra.
- 6Quais metas priorizar em longo prazo?15 min
Entre as metas de longo prazo possíveis, há razões para dar peso extra a prevenir sofrimento (e mortes prematuras): várias teorias aceitam esse foco, e não é preciso ser muito pessimista sobre o futuro para adotá-lo.
- 7De que consiste o foco nos riscos-s?3 min
Focar nos riscos-s não significa focar em poucos cenários específicos: o sofrimento futuro pode vir da soma de muitos riscos; coletivamente, devemos cobrir um leque amplo, ainda que cada pessoa se especialize.
- 8Identificando fatores de risco para os riscos-s8 min
Mesmo sem prever o futuro em detalhe, podemos identificar fatores de risco para os riscos-s: tecnologia avançada, aversão à tecnologia, desconsideração por não humanos, falta ou ineficácia de esforços, polarização e falta de segurança contra agentes malévolos.
- 9Estratégias longoprazistas: amplas e direcionadas5 min
Estratégias amplas buscam bom impacto em quase todos os cenários; as direcionadas, impacto grande em cenários específicos. Exemplos amplos: aumentar a consideração pelos sencientes; direcionados: evitar novas formas de exploração, criar a biologia do bem-estar, alinhar a IA de modo não antropocêntrico.
- 10Por que focar na consideração pelos seres sencientes e no futuro?5 min
A maneira como afetaremos os seres futuros é pouco discutida; promover a consideração por todos os sencientes é central para preveni-la, mas há riscos em como fazê-lo, e ainda não sabemos a forma mais eficiente; é preciso manter a mente aberta.
- 11Mudando o debate público, as formas de ativismo e as instituições políticas13 min
Política disfuncional aumenta os riscos-s; para melhorá-la, devemos reduzir o tribalismo, elevar o padrão do debate (discutir argumentos, não pessoas; honestidade intelectual), adotar abordagens de leque amplo, proteger a democracia e buscar representação para todos os sencientes.
- 12Moldando as tecnologias emergentes para prevenir sofrimento futuro9 min
Tecnologias emergentes podem multiplicar o sofrimento: o capítulo discute moldar a inteligência artificial com foco nos riscos-s, evitar riscos indiretos da IA, administrar a exploração espacial e o risco de criar novas formas de senciência.
- 13A tríade de influência e o sofrimento futuro27 min
A tríade de influência (intenção, conhecimento e poder de um agente) ajuda a avaliar o sofrimento que pode resultar das decisões: agentes que querem prejudicar ou são indiferentes, com muito poder, são os mais perigosos; querer o bem sem conhecimento ou sem poder tende a ser ineficaz.