Focar nos piores cenários?
O foco nos riscos-s é focar nos piores cenários de sofrimento. Alguém poderia discordar: "talvez a maior parte do sofrimento futuro venha da soma de muitos cenários ruins, mas não extremos".
A distribuição de cauda pesada
O autor, baseado no pesquisador Tobias Baumann, explica que muitos fenômenos têm uma distribuição de cauda pesada.
Se o sofrimento futuro funcionar assim, a maior parte dele pode vir de poucos cenários extremos, como a colonização espacial ou a criação de mentes digitais que sofrem. Isso justificaria focar neles.
Mas o foco não é estreito
Focar nos piores casos não quer dizer escolher só um ou dois riscos. O autor dá vários motivos:
- mesmo numa cauda pesada, os casos extremos podem ser muito variados;
- podemos estar enganados sobre quais serão os piores cenários;
- as ações contra os piores riscos podem não existir ainda, ou ser menos eficientes do que ações que ajudam em muitos cenários ao mesmo tempo.
Resumindo
- Os riscos-s são os piores cenários de sofrimento futuro.
- Se o sofrimento tiver "cauda pesada", poucos cenários podem concentrar a maior parte dele.
- Mesmo assim, o foco deve ser amplo, porque podemos errar sobre quais são os piores.