Prever el futuro es difícil
Una objeción común a la preocupación por los riesgos-s es: "no se pueden prever las consecuencias a largo plazo". Una herramienta que ayuda es identificar factores de riesgo, como se hace en medicina.
Algunos factores de riesgo de los riesgos-s
- Desconsideración por los seres no humanos: si a la gente no le importan los animales, es más fácil crear nuevas formas de explotarlos.
- Desconsideración por los seres no biológicos: si en el futuro aparecen mentes digitales que sienten, y a nadie le importan, pueden sufrir a una escala enorme.
- Demanda de productos que perjudican a seres sintientes: mientras haya demanda, habrá producción.
- Expansión humana y más poder tecnológico: más poder puede multiplicar tanto el bien como el mal.
- Una tecnología que avanza más rápido que la moral: ganamos poder antes de aprender a usarlo bien.
Cuando se juntan varios factores
Igual que en medicina, las catástrofes son más probables cuando aparecen varios factores de riesgo a la vez.
En resumen
- Los factores de riesgo ayudan a pensar en el futuro aun con incertidumbre.
- Desconsiderar a los seres que sienten es uno de los principales factores.
- El poder tecnológico sin progreso moral es peligroso.