Moldando as tecnologias emergentes para prevenir sofrimento futuro

Texto original Luciano Carlos Cunha · Volume IX, p. 81 da edição em PDF

12.1. Introdução

Riscos-s são riscos de que no futuro surjam práticas que gerem sofrimento de tamanho astronômico, muitas ordens de magnitude maior do que o sofrimento existente atualmente¹⁰⁵. Vários desses riscos dizem respeito ao aumento do poder tecnológico e à alta probabilidade de quem detiver essas tecnologias não ter consideração moral pelos indivíduos afetados por elas.

Diante disso, poder-se-ia pensar que uma solução para isso é tentar impedir o desenvolvimento tecnológico. Entretanto, há várias razões pelas quais essa estratégia não seria muito promissora. Baumann (2022, p. 77) lista as seguintes razões:

• A tecnologia também poderia ser utilizada para reduzir sofrimento. Na ausência de tecnologia, não haveria como prevenir o sofrimento decorrente de causas naturais¹⁰⁶, por exemplo (e talvez nem mesmo o sofrimento causado por humanos que não decorre do uso da tecnologia avançada). Discutimos já em mais detalhes essa questão no item 8.3.
• Não é realista supor que, mesmo que se obtivesse sucesso em impedir o desenvolvimento tecnológico, isso estaria garantido para sempre.
• Uma campanha contra o desenvolvimento tecnológico poderia gerar conflito com quem almeja colher os benefícios da tecnologia.
• Não é realista esperar que conseguiremos prevenir a tempo o desenvolvimento de certas tecnologias danosas.

Essas razões parecem indicar que tentar moldar o desenvolvimento e uso de tecnologias é uma estratégia mais promissora para tentar reduzir os riscos-s. Nessa discussão geralmente o foco tem sido sobre como moldar a IA (inteligência artificial). Entretanto, como veremos, há outros riscos-s relacionados ao avanço de outros tipos de tecnologia (como a possibilidade de

colonização espacial e do surgimento de novas formas de senciência), que podem ser mais preocupantes do que a IA.

A seguir discutiremos algumas sugestões dadas por Baumann (2022, p.77-84) em termos de moldar tecnologias emergentes. Adicionamos também uma discussão sobre tecnologias que poderiam gerar outras formas de senciência no futuro.

12.2. Argumentos prós e contra focar em moldar a inteligência artificial (IA)

Comecemos por discutir os pontos favoráveis e contrários ao foco em tentar moldar a IA¹⁰⁷.

12.2.1. Por que tentar moldar a IA

A principal razão para se tentar moldar a IA, se nosso objetivo é prevenir riscos-s, é a seguinte: se a IA vier a ter inteligência super humana e se tornar autônoma, ela poderia moldar tudo o que acontecesse dali para diante de acordo com seus valores. Assim, influenciar esse processo poderia ser central para influenciar o futuro em longo prazo. Uma IA avançada tem o potencial para causar riscos-s, mas também poderia vir a prevenir riscos-s decorrentes de outras fontes. Tudo dependerá de quais valores essa IA terá.

O trabalho para reduzir os riscos-s por conta da IA é altamente negligenciado. Poucas pessoas trabalham em garantir que as metas da IA autônomas estejam alinhadas com as dos seus criadores (o que é chamado de AI safety). Entretanto, mesmo o alinhamento com as metas de seus criadores não é suficiente para prevenir riscos-s, pois seus criadores podem ser indiferentes ao sofrimento dos seres sencientes não humanos (ou podem até mesmo almejar causar-lhes sofrimento). Por exemplo, as poucas pessoas que trabalham com AI safety geralmente levam em conta apenas os riscos para humanos. Esse grau de negligência alto nos permite ter bastante influência¹⁰⁸.

12.2.2. Riscos do foco em moldar a IA

Um risco envolvido ao se focar em tentar moldar a IA é o seguinte: como não sabemos como serão as tecnologias futuras, é alto o risco de que as tentativas de moldar a IA sejam ineficazes, ou mesmo uma perda de tempo. Podemos estar enganados quanto a quais tecnologias futuras terão mais influência. Pode ser que foquemos na IA e as tecnologias mais influentes sejam outras que ainda surgirão. Da mesma maneira que no passado não houve apenas uma tecnologia que determinou o curso da história, é provável que não haja apenas uma alavanca para moldar o futuro e reduzir riscos-s.

12.2.3. Qual o tamanho da influência das tecnologias?

Mesmo que houvesse uma única tecnologia que tivesse a maior influência em determinar como será o futuro, e mesmo que soubéssemos qual é, ainda poderia ser que melhorar os valores, a cultura política e as instituições fosse a maneira mais eficaz de moldar o futuro (em vez de tentar moldar a tecnologia diretamente), pois o desenvolvimento tecnológico nunca é divorciado do contexto político e sociocultural (é este que determinará quais metas serão almejadas com o uso da tecnologia).

12.3. Um exemplo de alinhamento de IA focada nos riscos-s

Uma vez que sistemas de IA avançadas seriam agentes muito poderosos, é bastante possível que conflitos entre esses tipos de sistemas tivessem consequências desastrosas. Então, esforços para alcançar IA cooperativas são promissores para reduzir riscos-s.

Por exemplo, pode-se pesquisar como mitigar os riscos se surgir nas IAs algo análogo a traços como psicopatia, sadismo, narcisismo e maquiavelismo¹⁰⁹. Esses traços surgiram nos humanos durante a trajetória evolutiva. Então, poderia surgir algo equivalente nos ambientes de treinamento das IAs. Estudando os incentivos reforçados nesses ambientes, poderíamos tentar garantir que tais tendências não surgissem.

Também podemos criar medidas de segurança que entrariam em ação se ocorrer uma falha no alinhamento da IA com os valores de seus criadores. Entretanto, como já vimos, os valores de seus criadores são cruciais para determinar qual será o resultado. Falaremos disso a seguir.

12.4. Evitando riscos indiretos relacionados à IA

Baumann (2022, p. 80-4) sugere as seguintes maneiras de evitar riscos indiretos relacionados à IA:

Tratados para garantir um desenvolvimento cooperativo da IA poderiam prevenir uma corrida armamentista entre as nações pelo controle da IA. Órgãos internacionais poderiam vistoriar o desenvolvimento da IA, e poderiam ser adotadas regras sobre como proceder se uma IA chegar a ter certas capacidades. É claro, não há razões para sermos excessivamente otimistas em relação a isso, pois qualquer acordo assim poderia ser muito difícil de ser implementado.

O surgimento de IA avançada poderia colocar em risco o estado de direito e as instituições democráticas. Então, é necessário investigar como evitar a turbulência política em um período de transição para a IA avançada, e como garantir que as leis ainda se apliquem nesse contexto.

Também é vital limitar a habilidade de agentes malevolentes fazerem uso da IA. Uma possível maneira seria tentar distribuir as capacidades tecnológicas futuras de maneira a tornar difícil que um único agente cause grandes danos.

Além disso, podemos estabelecer padrões sobre como proceder caso percebamos que uma IA cumpriu os critérios para a senciência¹¹⁰.

12.5. Administração do espaço

Como mencionado antes, os riscos-s devido à tecnologia não se limitam à IA. Muitos estão relacionados à colonização do espaço¹¹¹, pois com tal atividade o sofrimento poderia ser vastamente multiplicado pelo universo, a ponto de fazer o sofrimento existente na Terra "um grão de areia" em comparação.

Quando discutem esse risco, geralmente os defensores dos animais têm em mente a possibilidade de os humanos viverem em outros planetas e reproduzirem lá a exploração

animal (como, por exemplo, o uso de animais para fins alimentícios). Entretanto, provavelmente o risco relacionado à possibilidade de colonização espacial está muito mais ligado à possibilidade de isso vir a expandir pelo universo o sofrimento e as mortes causados pelos processos naturais, pois quando (e se) a colonização espacial se tornar praticável, talvez a exploração animal já esteja obsoleta. E, mesmo que não estiver, os processos naturais tendem a ser mais eficientes do que a exploração animal em maximizar sofrimento¹¹². Veremos algo sobre isso a seguir.

A colonização espacial pode multiplicar o sofrimento causado por processos naturais simplesmente por expandir a vida para outras localidades (mesmo se for vida não senciente pois esta pode, depois de muito tempo, gerar seres sencientes). Isso é assim porque, dado o modo como ocorre a seleção natural, os processos naturais tendem a maximizar a quantidade de seres sencientes que nascem apenas para ter uma vida repleta de sofrimento e morrerem prematuramente. Por exemplo, a característica de se reproduzir tendo uma ninhada gigantesca (com milhares ou milhões de filhotes por ninhada) é um traço que tem muitas chances de prevalecer, pois é alta a probabilidade de pelo menos alguns filhotes sobreviverem e se reproduzirem, passando esse traço adiante, mesmo que todos os outros nasçam apenas para sofrer e morrer. De fato, é isso o que se pode deduzir que ocorre em populações estáveis (se a população permanece estável durante algumas gerações, isso é um sinal de que sobreviveu em média apenas um descendente por progenitor). Essa é uma das razões pelas quais a quantidade de animais que sofrem em morrem em decorrência dos processos naturais é tão gigantesca que faz até mesmo os números da exploração animal quase desaparecem em comparação.

Atualmente não há regulamentações sobre exploração espacial. Assim, vale a pena criar regulamentações para se obter resultados positivos, quando (e se) a colonização espacial for praticável, tanto em termos de evitar conflitos quanto em termos de não expandir o sofrimento indiretamente.

Poder-se-ia pensar que a maneira mais fácil de evitar esses riscos-s seria se opor à colonização do espaço. Essa é, certamente, uma estratégia possível. Entretanto, se a colonização espacial for inevitável, é também importante enfatizar que devemos fazê-la apenas depois que

tivermos feito de tudo para garantir que o resultado seja positivo.

12.6. Possibilidade da criação de outras formas de senciência

Assim como a colonização espacial, uma possível criação de novas formas de senciência no futuro tem potencial de multiplicar o sofrimento enormemente. Isso poderia ocorrer por meio de modificações genéticas em animais não humanos e também por meio da criação de seres sencientes não orgânicos (por exemplo, em meios digitais¹¹³).

Em especial nesse segundo caso, esses seres poderiam ser muito diferentes dos seres sencientes que já conhecemos (poderiam não ter rostos, não demonstrar que estão sofrendo etc.) e então provavelmente a maioria das pessoas não teria empatia por eles. Os animais não humanos já são muito similares aos humanos em termos de expressar sofrimento e, ainda assim, diariamente são feitos todos os tipos de atrocidades a eles. Além disso, pode vir a ser muito barato criar seres sencientes digitais em larga escala, e isso pode ser útil para vários propósitos, como a criação de um universo dentro de um computador.

Assim como acontece no caso da colonização espacial, também não há nenhuma regulamentação sobre isso, e nenhuma discussão ampla acontecendo. Portanto, é importante começar a defender a necessidade de haver discussão sobre regulamentação dessa prática, antes que ela surja.

Também há a opção de se tentar fazer campanha para que essas formas de senciência nunca cheguem a ser criadas. Entretanto, assim como no caso da colonização espacial, talvez seja impossível impedir o seu surgimento, dado que o progresso tecnológico geralmente é muito mais rápido do que o progresso do debate ético na sociedade sobre a prática em questão (o que é chamado de progresso diferencial). Entretanto, o progresso diferencial é um problema não apenas para as tentativas de impedir o surgimento de práticas como a colonização espacial, a criação de novas formas de senciência ou outros usos da tecnologia que poderiam gerar riscos-s: também é um problema para as tentativas de regulamentar o uso dessas tecnologias (pois muito provavelmente começarão a ser utilizadas antes de haver regulamentação).

De qualquer maneira, há uma estratégia que podemos adotar que ajudaria tanto a aumentar as chances de que tais tecnologias nunca venham a ser criadas quanto as chances de que, caso venham a ser criadas, que o dano resultante seja menor: divulgar da maneira mais eficiente possível a consideração moral por todas as formas de senciência. Essa parece ser uma estratégia bastante promissora (e essencial) para aumentar as chances de que os esforços para moldar as tecnologias sejam em direção a prevenir sofrimento, em vez de aumentá-lo.