Identificando fatores de risco para os riscos-s

Texto original Luciano Carlos Cunha · Volume IX, p. 58 da edição em PDF

8.1. O que são fatores de risco e qual a importância de identificá-los

Uma das objeções mais comuns à preocupação com o futuro em longo prazo⁷⁰ é a dificuldade em estimar as consequências de longo prazo de cada decisão. Por exemplo, é difícil avaliar como determinada intervenção afetaria os riscos-s (isto é, riscos de sofrimento de magnitude astronômica no futuro⁷¹), pois há inúmeros riscos-s possíveis e o futuro é bastante incerto. Uma saída possível para essa dificuldade é tentar investigar fatores de risco⁷², que não são eles mesmos riscos-s, mas aumentam muito as chances ou a severidade dos mesmos.

O conceito de fator de risco já é amplamente utilizado em medicina. Por exemplo, fumar, falta de exercício e má alimentação não são problemas de saúde em si, mas podem ocasionar muitas doenças. Para saber que é algo bom prevenir esses fatores não é necessário analisar doenças específicas nem saber como será trajetória de saúde de cada pessoa. Analogamente, se descobrirmos quais são os fatores de risco para os riscos-s, para saber que é bom preveni-los não é necessário saber como será o futuro.

Assim como ocorre como com os fatores de risco na medicina, não quer dizer que os fatores de risco para os riscos-s necessariamente fariam um ou mais risco-s se materializarem. Quer dizer apenas que aumentariam muito as suas chances. Assim, se identificarmos tais fatores de risco, poderemos planejar intervenções eficazes para reduzir um amplo leque de riscos-s, sem que para isso seja necessário saber como será o futuro..

Baumann (2002.p. 49-56) sugere vários exemplos de fatores de riscos para os riscos-s. Nos itens a seguir discutiremos cada um deles separadamente, e no item 8.9 falaremos da interação entre esses vários fatores de risco.

8.2. Tecnologia avançada

Muitos riscos-s só são possíveis por conta de novas tecnologias. Porém, cada progresso

tecnológico é preocupante em maior ou menor grau. Dentre as mais preocupantes estão as tecnologias que poderiam tornar muito fácil criar grandes quantidades de sofrimento. A seguir estão dois exemplos.

• A capacidade de criar seres sencientes digitais⁷³ poderia resultar em quantidades enormes de sofrimento por conta da desconsideração por seres sencientes não biológicos, algo que abordamos no item 1.8.3.
• A colonização espacial pode multiplicar vastamente a população de seres sencientes, que estariam sujeitos tanto às decisões dos agentes quanto aos processos naturais⁷⁴. Há entre 100 e 400 bilhões de estrelas em nossa galáxia, e entre 100 e 200 bilhões de galáxias no universo⁷⁵. Sem colonização espacial, o sofrimento ficaria limitado ao da Terra (que já é enorme, mas minúsculo comparado ao que poderia surgir).

8.3. Aversão à tecnologia

A tecnologia também oferece oportunidades para redução de riscos-s. Por exemplo, se fosse interrompido o progresso tecnológico, isso impediria o surgimento de riscos-s causados por humanos, mas não impediria os riscos-s naturais (na Terra ou fora dela) nem os causados por outras civilizações, caso estas existam (e também faria com que não houvesse tecnologia para impedir esses outros riscos-s).

A tecnologia é uma ferramenta. Como tal, ela será utilizada para alcançar os fins de quem a utiliza. Assim, se uma tecnologia aumentará ou reduzirá o sofrimento é algo que depende das metas daqueles que farão uso dela. Por exemplo, a colonização espacial pode multiplicar os riscos-s para fora da Terra, mas também pode proporcionar a redução de riscos-s, se houver riscos-s fora da Terra.

É claro, poderia ser dito que, em relação a certas tecnologias, como a colonização espacial, o risco que elas representam de causar riscos-s é tão grande, que ainda poderia valer a pena nunca chegar a utilizá-las, mesmo que isso implique em deixar de prevenir sofrimento

também. Entretanto, mesmo que tivesse sido demonstrado que, por conta desse risco, é melhor nunca chegar a desenvolver certas tecnologias, isso não fundamentaria que é melhor interromper o progresso tecnológico como um todo (pois não se aplicaria a outras tecnologias), muito menos abandonar a tecnologia já existente.

Além disso, é preciso levar em conta que muito da aversão ao uso da tecnologia surge de uma visão irrealisticamente positiva da natureza. Por exemplo, predomina a crença de que, se os humanos pararem de prejudicar os animais selvagens, estes normalmente terão vidas minimamente positivas em decorrência dos processos naturais. Essa visão é o oposto da realidade. Os processos naturais tendem a maximizar a quantidade de animais que nasce para experimentar predominantemente sofrimento e morrer prematuramente. Entretanto, a visão romantizada da natureza é amplamente difundida, e é uma das crenças que mais contribui para a ideia equivocada de que, abandonando-se a tecnologia, o sofrimento diminuirá.

8.4. Falta de consideração por seres sencientes não humanos

A maioria dos riscos-s, e também a pouca atenção dada à prevenção dos riscos-s, só existem porque é baixo o nível de consideração moral dado aos seres sencientes não humanos. Vimos no item 1.6.1 que a falta de consideração pelos indivíduos afetados pelas decisões é suficiente para haver um risco-s (não é necessário que os agentes almejem o sofrimento por si). A esmagadora maioria das vítimas potenciais dos riscos-s são não humanos (sejam animais não humanos ou possíveis seres sencientes não orgânicos futuros). Assim, a falta de consideração por seres sencientes não humanos é um dos principais fatores de risco para os riscos-s. Além disso, tal falta de consideração, além de ser ela própria um fator de risco, também causa outro fator de risco: a falta de esforços para reduzir riscos-s, que abordaremos a seguir.

8.5. Falta de esforços para reduzir riscos-s.

Só é possível fazer progresso em termos de prevenir riscos-s se houver pessoas o suficiente se importando com essa questão. Por exemplo, pode ser que as futuras gerações venham a ter tecnologia que poderia ser utilizada para prevenir ou minimizar riscos-s, mas escolham não fazê-lo por não terem consideração moral o suficiente por todos os seres sencientes.

Isso não quer dizer que, para haver esforços para reduzir riscos-s, tenha de haver necessariamente um número muito grande de pessoas focando nisso. Mesmo que poucas pessoas foquem na prevenção dos riscos-s, elas podem tentar compromissos com pessoas que possuem outros focos (mas que não são contrárias a prevenir riscos-s), para implementar medidas de baixo custo para preveni-los. Além disso, pode-se focar em tentar fazer com que pessoas que possuem mais recursos, poder ou influência passem a querer prevenir riscos-s. O impacto positivo dessas pessoas pode ser muito maior do que o impacto positivo em conjunto da soma de pessoas que possuem poucos recursos, poder ou influência.

8.6. Esforços equivocados ou ineficazes para reduzir riscos-s

Ter a vontade de reduzir os riscos-s não é o bastante. É preciso que os esforços sejam bem planejados para que não sejam pouco eficazes, ineficazes, ou mesmo contraproducentes.

Alguns riscos relacionados a essas possibilidades são:

• Se a causa pela redução dos riscos-s ficar associada a ideias muito controversas, isso pode gerar uma forte oposição à proposta de prevenir riscos-s.
• É possível que os decisores relevantes queiram prevenir riscos-s, mas as instituições políticas sejam ineficazes ou haja problemas de cooperação⁷⁶.
• Pode ser também que os decisores não percebam certos riscos-s em estágios iniciais e, quando perceberem, já seja tarde demais.

A questão dos esforços pouco eficazes, ineficazes ou contraproducentes será abordada em detalhes no Capítulo 13.

8.7. Polarização, conflito e hostilidade

Há maior probabilidade de riscos-s ocorrerem se houver um alto grau de hostilidade entre os agentes futuros. A polarização em larga escala deixa pouco espaço para reflexão (sobre riscos-s ou qualquer outra coisa) e para compromissos mútuos. Ela também tem o potencial de resultar em conflitos e até mesmo em guerras, o que aumenta as chances de riscos-s agenciais.

A polarização, e como diminui-la, será o tema do Capítulo 11.

8.8. Falta de segurança contra agentes que almejam causar sofrimento

Outro fator de risco é a segurança insuficiente contra agentes que possuem como meta causar sofrimento. Atualmente alguns desses agentes são contidos em alguma medida pelas normas morais e pelas leis, mas há possíveis cenários futuros onde tais formas de contenção poderiam ser ineficazes ou insuficientes (por exemplo, em um futuro com IA autônomas e poderosas, e/ou com a colonização espacial).

Indivíduos que possuem traços de personalidade como psicopatia, sadismo, narcisismo e maquiavelismo aumentam a probabilidade de materialização de riscos-s quando alcançam posições de poder⁷⁷. E não é incomum que estejam em tais posições, pois geralmente possuem um desejo forte por poder e sua personalidade dá muitas vantagens nessa busca (e esse desejo e essa vantagem é maior quanto maior for o número desses traços em um mesmo indivíduo). Esses riscos são aumentados se esses agentes malévolos tiverem acesso à tecnologia avançada (o que exemplifica que, quanto mais fatores de risco estiverem combinados, maiores as chances de um risco-s se materializar, ponto que discutiremos no item a seguir).

8.9. Interação entre vários fatores de risco e entre várias formas de prevení-los

Os diversos fatores de risco interagem entre si. Por exemplo, a polarização aumenta as chances de indivíduos com traços malignos chegarem ao poder. Se isso acontecer, é provável que impeçam os esforços para se prevenir os riscos-s. Por sua vez, a tecnologia avançada poderia multiplicar os danos causados por agentes malignos, e assim por diante. Assim como no contexto médico, as catástrofes têm maior probabilidade de ocorrerem se vários fatores de risco coincidirem.

Analogamente, um fator de risco pode ser mitigado por um conjunto de circunstâncias favoráveis. Por exemplo, tecnologia avançada é muito menos preocupante se a consideração

por todos os seres sencientes está mais difundida e existem esforços adequados para prevenir riscos-s. Da mesma maneira, sem colonização espacial, o sofrimento causado por um ditador maligno estaria limitado à Terra, e assim por diante.

8.10. Conclusão

Nesse capítulo vimos o que são fatores de risco e também alguns exemplos de fatores de risco para os riscos-s. Vimos também que a probabilidade de um risco-s se materializar é maior quando vários fatores de risco coincidem, e que as chances de prevení-lo também são maiores se várias formas de prevenção coincidem.

No próximo capítulo veremos uma classificação dos tipos de estratégias para prevenir os fatores de risco para os riscos-s.