Impedir ou moldar a tecnologia?
Como muitos riscos-s dependem de novas tecnologias, alguém poderia pensar: "a solução é impedir o desenvolvimento tecnológico". O autor mostra por que essa não parece ser a melhor saída:
- a tecnologia também pode reduzir o sofrimento;
- mesmo que se conseguisse impedi-la por um tempo, isso não duraria para sempre;
- uma campanha contra a tecnologia geraria conflito com quem quer os benefícios dela;
- não é realista achar que conseguiremos impedir a tempo tecnologias perigosas.
Por isso, tentar moldar como as tecnologias são criadas e usadas parece mais promissor.
O caso da inteligência artificial
Por que se preocupar com a IA: se um dia ela tiver inteligência maior que a humana e agir por conta própria, poderia moldar tudo o que acontece depois de acordo com seus objetivos. Se esses objetivos não levarem em conta os seres sencientes, o resultado pode ser terrível. E esse trabalho ainda é muito negligenciado.
Os riscos desse foco: como não sabemos como serão as tecnologias do futuro, os esforços para moldar a IA podem ser ineficazes ou até uma perda de tempo. Além disso, outras tecnologias, como a colonização espacial e novas formas de senciência, podem ser ainda mais preocupantes.
Resumindo
- Impedir o progresso tecnológico não parece realista nem desejável.
- Moldar as tecnologias é uma estratégia mais promissora.
- A IA é um caso importante, mas há outros riscos tecnológicos.