Riscos futuros para os seres sencientes: uma introdução

Texto original Luciano Carlos Cunha · Volume IX, p. 10 da edição em PDF

1.1. O passado, o presente e o futuro

O surgimento da pecuária industrial na década de 1930 e sua posterior aplicação em larga escala tiveram como resultado multiplicar enormemente duas coisas: (1) a quantidade de animais mortos e sujeitados a viver uma vida de sofrimento; (2) os níveis de sofrimento para cada animal. Em resumo, a pecuária industrial multiplicou os danos que os humanos causam aos outros animais em uma escala nunca antes vista.

No início do século XX os defensores dos animais provavelmente não imaginariam que dali a algumas poucas décadas surgiria a pecuária industrial. Entretanto, naquela época já havia pistas de que a tecnologia que estava surgindo resultaria na pecuária industrial.

Agora considere dois experimentos de pensamento¹.

(1) Você, indo do presente ao passado

Imagine que você pudesse voltar no tempo, e avisar àquelas pessoas de que algo terrível estava para surgir. Talvez desse tempo de impedir o surgimento da pecuária industrial (ou de, pelo menos, diminuir o seu impacto negativo). É claro, poderia ser tarde demais para tentar alguma coisa. Mas, imagine que a sua máquina do tempo lhe permitisse voltar para bem antes do início do século XX. Ao que parece, o quanto antes você conseguisse voltar, maiores as suas chances de conseguir impedir a catástrofe (ou de, pelo menos, minimizar o seu impacto negativo), pois as pessoas que você influenciaria teriam mais tempo para tentar.

(2) Você, vindo do futuro ao presente

Imagine agora que você é novamente um viajante do tempo, mas desta vez do futuro. Imagine que você veio do ano 4025 para avisar às pessoas do presente de que estaria para surgir coisas

tão terríveis no futuro que tornariam até mesmo a pecuária industrial "um grãozinho de areia" em comparação. Assim como no exemplo anterior, há uma razão para você voltar para o momento atual. Inicialmente você tentou voltar para épocas mais próximas de 4025, mas viu que seus esforços seriam inúteis: era necessário voltar para épocas anteriores para dar tempo de prevenir as catástrofes. Por essa razão, você veio parar na época atual.

O que esses experimentos de pensamento visam perguntar é: em relação ao que poderia surgir de negativo para os seres sencientes² no futuro, será que estamos nós agora na mesma condição na qual estavam os defensores dos animais antes do surgimento da pecuária industrial? Como veremos a seguir, é sobre isso que trata o conceito de riscos-s: sofrimentos em escala gigantesca que poderiam surgir no futuro, e o que fazer para preveni-los.

1.2. O que são riscos-s?

Na atualidade, um número muito grande de animais não humanos sofre intensamente, e em muitos casos, de formas que não existiam no passado. Da mesma maneira, no futuro é possível que surjam novas formas de prejudicar os seres sencientes de forma massiva, em uma escala muitíssimo maior do que a existente até o momento.

Um conceito empregue para tratar desse problema é o de riscos de sofrimento futuro (normalmente abreviado como riscos-s). Esse conceito diz respeito à possibilidade de no futuro o sofrimento ser aumentado de forma massiva³, e pode ser definido assim:

• Riscos-s: riscos de que no futuro ocorram eventos que resultem em sofrimento de magnitude gigantesca⁴, que excede o sofrimento existente na Terra até agora.

O conceito de riscos-s é centrado no sofrimento, mas poderia haver um conceito análogo para tratar de todas as formas de dano que os animais poderiam padecer, e não apenas o sofrimento

(como, por exemplo, o dano da morte). No caso, poderia haver um conceito como riscos-d (riscos de danos futuros). Entretanto, neste livro falaremos dos riscos-s por se tratar do conceito que vem sendo amplamente utilizado no debate sobre essas questões apesar de, tecnicamente falando, riscos-d ser um termo mais adequado, por ser mais completo.

1.3. Diferenças entre riscos-s e riscos-x

Riscos-s são um conceito diferente de riscos-x (riscos existenciais). Tanto os riscos-s quanto os riscos-x são sobre longo prazo e impactos astronômicos. Mas, enquanto riscos-x são sobre riscos de aniquilação da humanidade (ou, pelo menos, de diminuição drástica do seu potencial), riscos-s são sobre cenários com sofrimento astronômico (e, portanto, é um conceito que necessariamente leva em conta todos os seres sencientes).

Certos riscos-s também podem ser riscos-x, mas há riscos-s que não são riscos-x. Por exemplo, há formas de sofrimento sobre seres sencientes não humanos que não prejudicam os humanos, e que podem até mesmo fomentar certos interesses humanos (o consumo de animais é um exemplo).

1.4. Medindo a seriedade de um risco-s

Todo risco-s diz respeito à riscos de sofrimento de magnitude astronômica, mas cada risco-s possui graus diferentes de seriedade. Isso é assim porque varia não apenas a severidade de cada risco-s (por exemplo, a quantidade de vítimas que potencialmente seria afetada e o quanto sofreria cada uma), mas também varia a probabilidade de cada risco-s se concretizar.

Assim, uma maneira de medir a seriedade de um risco-s é multiplicar: o quão ruim seria o resultado pela sua probabilidade de ocorrer (isso revelaria o seu desvalor esperado, ou DE)⁵.

Esse cálculo revela algo importante sobre os riscos-s. Como riscos-s, por definição, são muitas ordens de magnitude superiores ao sofrimento atual (mesmo comparando-os com a exploração animal somada ao sofrimento dos animais natureza), o DE de cada risco-s é enorme, mesmo quando a probabilidade de ocorrer for pequena.

1.5. Riscos-s e novas tecnologias

Um fator que pode dar origem a riscos-s é o surgimento de novas tecnologias. Esse risco é grande especialmente se a tecnologia beneficiaria seus detentores e estes não possuírem consideração moral pelos seres afetados negativamente por ela. Se a humanidade tiver tecnologia avançada, mas não ocorrer progresso moral paralelamente, é grande o risco de isso resultar em sofrimento de magnitude sem precedentes.

Como vimos, no passado um exemplo de como o surgimento de uma tecnologia multiplicou massivamente o sofrimento e as mortes dos seres sencientes foi o advento da pecuária industrial (que, por sua vez, foi resultado da industrialização). Outro exemplo foi o desenvolvimento de novas tecnologias de armamento.

Se não ocorrer a extinção humana ou um colapso da civilização, é provável que a tecnologia continue avançando, talvez permitindo colonizar planetas e até mesmo bilhões de galáxias. Assim, é possível que no futuro surjam tecnologias que tenham um impacto muitíssimo maior, o que aumenta também as chances de seu impacto negativo ser vastamente maior.

Para que cenários de sofrimento astronômico ocorram, não é necessário que os agentes tenham a intenção de prejudicar as vítimas: basta que não se importem (ou se importem muito pouco) com elas — assim como acontece com o ato de consumir produtos de origem animal, por exemplo. As novas tecnologias, junto com a indiferença, já são suficientes para aumentar bastante a probabilidade de ser causado sofrimento de tamanho colossal.

Além disso, pode também acontecer de os agentes a terem intenção de utilizar a tecnologia para prejudicar as vítimas. Ou ainda, o sofrimento em escala massiva pode surgir acidentalmente. Também é possível que os agentes permitam ou promovam que as vítimas sofram danos naturais, quando poderiam ter evitado. Enfim, há muitas maneiras pelas quais um risco-s poderia surgir. Veremos mais sobre isso a seguir.

1.6. Classificação dos riscos-s de acordo com a maneira como surgem

Os riscos-s podem ser classificados de acordo com vários parâmetros. Neste item, veremos como eles podem ser classificados de acordo com a maneira como surgem seguindo a classificação feita por Baumann (2022, p.13-9). No item seguinte, veremos outros parâmetros.

1.6.1. Riscos-s incidentais

Ocorrem quando formas de alcançar certa meta geram bastante sofrimento, mas sem o sofrimento ser almejado por si. Os agentes podem ser simplesmente indiferentes, ou até preferirem uma alternativa sem sofrimento, mas não estarem dispostos a pagar os custos.

Alguns exemplos:

• Sofrimento como efeito da alta produtividade. Um exemplo atual é a pecuária industrial. No futuro podem ocorrer cenários similares, mas em escala muito maior.
• Sofrimento para ganho de informações. Um exemplo atual é a experimentação animal. Um exemplo no futuro seria a criação de simulações virtuais com seres sencientes digitais para obter conhecimento sobre como os seres sencientes agem.
• Sofrimento para entretenimento. Assim como há touradas hoje, pode ser que no futuro sejam criados novos tipos de seres sencientes para formas de entretenimento similares.

1.6.2. Riscos-s agenciais

Ocorrem quando o agente almeja causar o dano. Vejamos alguns exemplos:

• Sádicos. As tecnologias futuras podem multiplicar o potencial que eles têm de causar danos.
• Sentimentos de ódio. Uma mentalidade tribal do tipo "nós x eles" pode resultar em ódio contra quem pertence a certa etnia, religião, ideologia política etc.
• Punições extremas. Exemplos no passado são as formas de punição que eram aplicadas exatamente porque causavam sofrimento extremo.

Um fator chave em relação ao aumento de riscos-s agenciais é presença de traços malevolentes (narcisismo, psicopatia, maquiavelismo e sadismo) em indivíduos poderosos⁶.

1.6.3. Riscos-s naturais

Surgem sem ação de agentes. Por exemplo, independentemente de ação humana, os processos naturais já prejudicam os animais em altíssimo grau, tendendo para maximizar a quantidade de seres sencientes que nascem para ter vidas repletas de sofrimento⁷. Para cada animal que consegue sobreviver, literalmente milhares ou mesmo milhões nascem apenas para experimentar sofrimento e morrer prematuramente. A norma na natureza é serem vítimas de desnutrição, fome e sede, doenças, lesões físicas, estresse psicológico, eventos meteorológicos hostis, desastres naturais, e conflitos interespecíficos, intraespecíficos e sexuais.

Esses animais são a vasta maioria dos seres sencientes na Terra. Por exemplo, se compararmos as populações de animais explorados pelos humanos e de animais na natureza e fizermos uma analogia com o período de um ano, os primeiros representariam apenas 14 segundos do ano⁸. Todo o restante (364 dias, 23 horas, 59 minutos e 46 segundos) seriam os animais na natureza. Riscos-s naturais são os riscos de que o sofrimento decorrente de causas naturais se expanda em uma escala astronômica.

Esse sofrimento é resultado da maneira como ocorre a seleção natural. Por exemplo, o traço de maximizar a quantidade de filhotes oferece uma grande vantagem na transmissão da informação genética: com ninhadas tão gigantescas (com milhares ou mesmo milhões de filhotes, dependendo da espécie) é altamente provável que pelo menos um ou outro sobreviva e se reproduza, passando adiante esse traço. Entretanto, em populações estáveis, sobrevive em média apenas um filhote por adulto⁹ (isto é, dois por ninhada). Todo o restante nasce quase que apenas para experimentar o sofrimento associado à morte.

Se essa maximização do sofrimento é resultado da seleção natural, então, se há outros

planetas onde a vida senciente chegou a se desenvolver, é provável que isso também tenha ocorrido e continue a ocorrer.

Também há risco de os humanos no futuro virem a expandir esse sofrimento (por exemplo, por meio da propagação da vida para fora da Terra). Embora esse seria já um risco-s incidental, seria também, indiretamente, um risco-s natural.

1.7. Outras classificações

Os riscos-s podem ser classificados quanto a vários outros parâmetros, e não somente em relação ao modo como surgem. Abaixo estão algumas outras possíveis classificações¹⁰:

• Riscos-s conhecidos e desconhecidos. Dependem de se conseguimos ou não imaginá-los atualmente (por exemplo, na idade média não se imaginava que surgiria a bomba atômica).

Os riscos-s desconhecidos também podem ser subclassificados de acordo com a maneira como surgem:

• Incidentais: quando mecanismos não conhecidos conduzirão a riscos-s incidentais.
• Agenciais: pode ser que os agentes venham a ter no futuro razões para causar dano, que ainda não conhecemos.
• Naturais: pode ser que o universo já tenha muito mais sofrimento do que pensamos.

Outros parâmetros a partir dos quais é possível classificar os riscos-s são:

• De acordo com o tipo de ser senciente afetado. Por exemplo, se é ou não humano, se é ou não orgânico etc.
• Se são ou não influenciáveis. Isto é, se é ou não possível fazer algo para preveni-los ou minimizá-los. Entretanto, aqui é importante separar: (1) cenários que, dadas as leis da física, é impossível influenciá-los e (2) cenários que atualmente não é possível influenciar, mas que podem vir a ser influenciáveis no futuro.

Podem existir vários outros parâmetros a partir dos quais classificar riscos-s. A lista acima não deve ser vista como completa.

A seguir veremos alguns exemplos concretos de riscos-s.

1.8. Alguns exemplos de riscos-s

No debate sobre o futuro há uma preocupação em se tentar estimar quais os principais riscos-s e como preveni-los (ou, pelo menos, como fazer para que ocorram em menor medida). Vejamos a seguir três possíveis cenários de sofrimento massivo no futuro e os fatores de risco que poderiam fazer surgi-los. Os fatores de risco serão discutidos em mais detalhes no Capítulo 8. No Capítulo 9 veremos algumas estratégias para preveni-los.

Importante: já que é difícil estimar a probabilidade de o futuro ser dessa ou daquela maneira, os exemplos a seguir são palpites bem informados, mas não necessariamente são os riscos-s com maior probabilidade de ocorrer. Além disso, todos esses exemplos podem ser ainda uma pequena fração dos riscos-s, se comparados aos riscos-s ainda desconhecidos.

Riscos-s podem surgir a partir de um amplo leque de cenários. Portanto, é preciso tomar cuidado com a heurística de disponibilidade, que é o viés que faz com que pensemos que os casos de que lembramos com mais facilidade são necessariamente os mais representativos. Esse viés pode fazer-nos pensar equivocadamente que os riscos-s de que lembramos mais facilmente serão necessariamente os mais prováveis.

Tendo isso em vista, a seguir estão alguns exemplos.

1.8.1. Aumento da exploração animal

Há pelo menos três formas pelas quais é possível que o sofrimento causado pela exploração animal venha a ser aumentado de forma massiva:

• Expandi-lo em escala (isto é, afetar um maior número de seres sencientes).
• Torná-lo qualitativamente pior (isto é, aumentar os danos sofridos por cada animal).
• Criar novas formas pelas quais ele possa acontecer.

Um exemplo de risco-s desse tipo que se concretizou é o uso de insetos para consumo, surgido no final do século XX, e que vem se expandindo em vários países¹¹. Como esses animais são muito pequenos, para se produzir uma quantidade equivalente de carne é necessário que uma quantidade gigantescamente maior de indivíduos sofra e morra¹². Além disso, os invertebrados são tipicamente ainda mais desconsiderados do que os outros animais não humanos. Esse grau de desconsideração potencializa o efeito negativo sobre cada invertebrado. Por exemplo, O espaço destinado aos insetos nas fazendas é extremamente pequeno, ainda menor do que aquele dado aos outros animais em proporção ao seu tamanho¹³.

1.8.2. Expansão do sofrimento dos animais selvagens

Um aumento do sofrimento dos animais selvagens pode ocorrer devido a um aumento do número de animais na Terra (como as práticas de rewilding¹⁴, que almejam que os ecossistemas retornem ao seu estado anterior à presença humana) ou devido à propagação intencional ou acidental da vida para fora dela (como na panspermia¹⁵ e na terraformação¹⁶).

Essas práticas podem ser boas de um ponto de vista ambientalista ou antropocêntrico, mas são muito negativas para os animais afetados. Como vimos, os processos naturais tendem a maximizar a quantidade de animais que vivem vidas repletas de sofrimento e que morrem prematuramente. Isso acontece em uma escala gigantesca, muito maior até do que aquela que ocorre na exploração animal¹⁷, e ocorre em maior medida quanto maior for a quantidade de biomassa vegetal disponível, pois isso implica em um aumento na quantidade de reproduções, o que, por sua vez, está diretamente ligado à maximização do sofrimento¹⁸. Dada a prevalência da visão ambientalista e a desconsideração pelo bem dos animais, a expansão do território natural e da vida são coisas normalmente vistas como totalmente positivas. Contudo, para os animais afetados por tais práticas, seus efeitos são predominantemente negativos¹⁹.

1.8.3. Criação de novas formas de senciência

A criação de novas formas de senciência pode também dar origem a vastas quantias de sofrimento, especialmente se há uma alta probabilidade de esses seres não receberem consideração moral. Exemplos de riscos desse tipo são a criação de animais geneticamente modificados e, especialmente, a criação de formas de senciência não biológicas²⁰.

A possibilidade de senciência não biológica existe porque talvez a senciência apareça toda vez que qualquer estrutura física estiver organizada de modo a fornecer as condições para o seu aparecimento, independentemente de a estrutura ser ou não orgânica. Uma maneira de entender essa possibilidade é por meio do experimento mental a seguir.

Imaginemos que nossos neurônios fossem gradualmente substituídos por neurônios não orgânicos. Se nossa senciência não fosse desaparecendo à medida que os neurônios fossem substituídos, e se continuássemos sencientes após a substituição de todos os neurônios, isso sugeriria que é possível que seres não orgânicos, no futuro, sejam sencientes, caso venham a ter uma estrutura organizada de modo a desempenhar as mesmas funções de um cérebro.

Essa possibilidade é um risco-s porque é alta a probabilidade de, se esses seres virem a existir, não receberem consideração moral por não serem orgânicos, e serem então prejudicados das mais diversas formas, assim como são hoje os animais não humanos. A própria ideia equivocada que muitos ativistas da causa animal possuem, de que os animais devem ser respeitados porque são animais ou porque são seres vivos (e não porque são sencientes) é um fator que tem potencial para resultar na desconsideração por seres sencientes não orgânicos.

No futuro a senciência não orgânica poderia ocorrer não apenas por modificações digitais nos corpos biológicos, mas também, por exemplo, em simulações sencientes em um programa de computador. Tais seres, apesar de sencientes, poderão não ter rostos, e nem se movimentar ou gritar. Então, poderá ser difícil sentir empatia por eles²¹. Se tais seres chegarem a existir, é provável que os humanos não se importarão com eles, assim como acontece em relação aos animais (ou talvez seja até pior, pois os animais já são muito similares aos humanos e, ainda

assim, a maioria dos humanos não se importa muito com eles). Também pode acontecer de uma entidade digital já ser senciente em certo momento e não percebermos (e então, causarmos sofrimento a ela sem perceber).

Se a senciência não orgânica for possível, quantidades enormes de seres sencientes digitais poderão vir a existir no futuro, pois criá-los poderá envolver muito menos custos do que criar seres sencientes biológicos. Assim como qualquer um pode copiar programas de computador à vontade hoje, é possível que no futuro qualquer um possa criar seres sencientes digitais.

Assim, o potencial para haver números vastíssimos de seres sencientes digitais junto com a falta de consideração coloca um sério risco-s (exatamente como ocorre na pecuária, ainda mais por serem ambos combinados com incentivos econômicos).

Por essa razão, é importante combater não apenas o especismo, mas também o substratismo. Assim como o especismo é a discriminação baseada na espécie a qual alguém pertence, o substratismo é a discriminação baseada no tipo de substrato que compõe o corpo do ser (por exemplo, se é orgânico ou não orgânico). Assim como o antropocentrismo é uma forma de especismo (que discrimina contra quem não pertence à espécie humana), o carbonismo é uma forma de substratismo (que discrimina contra quem não é orgânico).

O substratismo, tanto quanto o especismo, pode produzir sofrimento em quantidades astronômicas no futuro. Por isso é importante enfatizar que os animais devem ser considerados porque são sencientes (e não, porque são animais ou porque são seres vivos), e que isso implica em considerar seres sencientes não orgânicos, caso vierem a existir.

1.9. Conclusão

Os riscos de que os cenários mencionados acima se concretizem não são triviais. Na verdade, são muito grandes, pois é fácil ignorar tais problemas e, além disso, não estão sendo discutidos. Por essa razão, é extremamente necessário que se inicie um amplo debate sobre os riscos-s.