Cómo identificar los factores de riesgo de los riesgos-s

Texto original Luciano Carlos Cunha · Volumen IX, p. 58 de la edición en PDF · traducción al español

8.1. Qué son los factores de riesgo y por qué es importante identificarlos

Una de las objeciones más comunes a la preocupación por el futuro a largo plazo⁷⁰ es la dificultad de estimar las consecuencias a largo plazo de cada decisión. Por ejemplo, es difícil evaluar cómo afectaría una determinada intervención a los riesgos-s (es decir, a los riesgos de sufrimiento de magnitud astronómica en el futuro⁷¹), pues hay innumerables riesgos-s posibles y el futuro es muy incierto. Una salida posible a esta dificultad es intentar investigar los factores de riesgo⁷², que no son en sí mismos riesgos-s, pero aumentan mucho su probabilidad o su severidad.

El concepto de factor de riesgo ya se utiliza ampliamente en medicina. Por ejemplo, fumar, la falta de ejercicio y la mala alimentación no son problemas de salud en sí mismos, pero pueden ocasionar muchas enfermedades. Para saber que es bueno prevenir esos factores no es necesario analizar enfermedades específicas ni saber cuál será la trayectoria de salud de cada persona. Análogamente, si descubrimos cuáles son los factores de riesgo de los riesgos-s, para saber que es bueno prevenirlos no es necesario saber cómo será el futuro.

Como ocurre con los factores de riesgo en medicina, esto no quiere decir que los factores de riesgo de los riesgos-s harían necesariamente que uno o más riesgos-s se materializaran. Quiere decir solo que aumentarían mucho su probabilidad. Así, si identificamos esos factores de riesgo, podremos planificar intervenciones eficaces para reducir una amplia gama de riesgos-s, sin que para ello sea necesario saber cómo será el futuro..

Baumann (2002.p. 49-56) sugiere varios ejemplos de factores de riesgo de los riesgos-s. En los apartados siguientes examinaremos cada uno de ellos por separado, y en el apartado 8.9 hablaremos de la interacción entre estos diversos factores de riesgo.

8.2. Tecnología avanzada

Muchos riesgos-s solo son posibles debido a nuevas tecnologías. Sin embargo, cada progreso

tecnológico es preocupante en mayor o menor grado. Entre las más preocupantes están las tecnologías que podrían hacer muy fácil crear grandes cantidades de sufrimiento. A continuación se presentan dos ejemplos.

• La capacidad de crear seres sintientes digitales⁷³ podría dar lugar a cantidades enormes de sufrimiento debido a la desconsideración por los seres sintientes no biológicos, algo que abordamos en el apartado 1.8.3.
• La colonización espacial puede multiplicar enormemente la población de seres sintientes, que estarían sujetos tanto a las decisiones de los agentes como a los procesos naturales⁷⁴. Hay entre 100.000 y 400.000 millones de estrellas en nuestra galaxia, y entre 100.000 y 200.000 millones de galaxias en el universo⁷⁵. Sin colonización espacial, el sufrimiento quedaría limitado al de la Tierra (que ya es enorme, pero minúsculo comparado con el que podría surgir).

8.3. Aversión a la tecnología

La tecnología también ofrece oportunidades para reducir los riesgos-s. Por ejemplo, si se interrumpiera el progreso tecnológico, eso impediría la aparición de riesgos-s causados por humanos, pero no impediría los riesgos-s naturales (en la Tierra o fuera de ella) ni los causados por otras civilizaciones, si existen (y también haría que no hubiera tecnología para impedir esos otros riesgos-s).

La tecnología es una herramienta. Como tal, se utilizará para alcanzar los fines de quien la utiliza. Así, que una tecnología aumente o reduzca el sufrimiento depende de las metas de quienes hagan uso de ella. Por ejemplo, la colonización espacial puede multiplicar los riesgos-s fuera de la Tierra, pero también puede permitir reducirlos, si hay riesgos-s fuera de la Tierra.

Por supuesto, podría decirse que, en el caso de ciertas tecnologías, como la colonización espacial, el riesgo que representan de causar riesgos-s es tan grande que aun así podría valer la pena no llegar a utilizarlas nunca, aunque eso implique dejar de prevenir sufrimiento

también. Sin embargo, aunque se hubiera demostrado que, debido a ese riesgo, es mejor no llegar nunca a desarrollar ciertas tecnologías, eso no fundamentaría que es mejor interrumpir el progreso tecnológico en su conjunto (pues no se aplicaría a otras tecnologías), y mucho menos abandonar la tecnología ya existente.

Además, hay que tener en cuenta que buena parte de la aversión al uso de la tecnología surge de una visión irrealmente positiva de la naturaleza. Por ejemplo, predomina la creencia de que, si los humanos dejan de perjudicar a los animales salvajes, estos normalmente tendrán vidas mínimamente positivas como resultado de los procesos naturales. Esta visión es lo opuesto a la realidad. Los procesos naturales tienden a maximizar la cantidad de animales que nacen para experimentar predominantemente sufrimiento y morir prematuramente. Sin embargo, la visión idealizada de la naturaleza está muy difundida, y es una de las creencias que más contribuyen a la idea equivocada de que, abandonando la tecnología, el sufrimiento disminuirá.

8.4. Falta de consideración por los seres sintientes no humanos

La mayoría de los riesgos-s, y también la poca atención que se presta a su prevención, existen solo porque es bajo el nivel de consideración moral que se da a los seres sintientes no humanos. Vimos en el apartado 1.6.1 que la falta de consideración por los individuos afectados por las decisiones basta para que haya un riesgo-s (no es necesario que los agentes busquen el sufrimiento por sí mismo). La abrumadora mayoría de las víctimas potenciales de los riesgos-s son no humanas (ya sean animales no humanos o posibles seres sintientes no orgánicos futuros). Así, la falta de consideración por los seres sintientes no humanos es uno de los principales factores de riesgo de los riesgos-s. Además, esa falta de consideración, además de ser ella misma un factor de riesgo, también causa otro factor de riesgo: la falta de esfuerzos para reducir los riesgos-s, que abordaremos a continuación.

8.5. Falta de esfuerzos para reducir los riesgos-s.

Solo es posible progresar en la prevención de los riesgos-s si hay suficientes personas a las que les importe esta cuestión. Por ejemplo, puede que las generaciones futuras lleguen a tener una tecnología que podría utilizarse para prevenir o minimizar los riesgos-s, pero elijan no hacerlo por no tener suficiente consideración moral por todos los seres sintientes.

Esto no quiere decir que, para que haya esfuerzos por reducir los riesgos-s, tenga que haber necesariamente un número muy grande de personas centradas en ello. Aunque pocas personas se centren en la prevención de los riesgos-s, pueden intentar llegar a compromisos con personas que tienen otros focos (pero que no se oponen a prevenir los riesgos-s), para implementar medidas de bajo costo que los prevengan. Además, es posible centrarse en intentar que las personas que tienen más recursos, poder o influencia pasen a querer prevenir los riesgos-s. El impacto positivo de esas personas puede ser mucho mayor que el impacto positivo conjunto de la suma de las personas que tienen pocos recursos, poder o influencia.

8.6. Esfuerzos equivocados o ineficaces para reducir los riesgos-s

Tener la voluntad de reducir los riesgos-s no basta. Es necesario que los esfuerzos estén bien planificados para que no sean poco eficaces, ineficaces o incluso contraproducentes.

Algunos riesgos relacionados con estas posibilidades son:

• Si la causa de la reducción de los riesgos-s queda asociada a ideas muy controvertidas, eso puede generar una fuerte oposición a la propuesta de prevenir los riesgos-s.
• Es posible que quienes toman las decisiones relevantes quieran prevenir los riesgos-s, pero que las instituciones políticas sean ineficaces o haya problemas de cooperación⁷⁶.
• También puede ocurrir que quienes toman las decisiones no perciban ciertos riesgos-s en sus etapas iniciales y que, cuando los perciban, ya sea demasiado tarde.

La cuestión de los esfuerzos poco eficaces, ineficaces o contraproducentes se abordará en detalle en el Capítulo 13.

8.7. Polarización, conflicto y hostilidad

Hay mayor probabilidad de que ocurran riesgos-s si existe un alto grado de hostilidad entre los agentes futuros. La polarización a gran escala deja poco espacio para la reflexión (sobre los riesgos-s o sobre cualquier otra cosa) y para los compromisos mutuos. También puede dar lugar a conflictos e incluso a guerras, lo que aumenta la probabilidad de riesgos-s agenciales.

La polarización, y cómo disminuirla, será el tema del Capítulo 11.

8.8. Falta de seguridad frente a agentes que buscan causar sufrimiento

Otro factor de riesgo es la seguridad insuficiente frente a agentes que tienen como meta causar sufrimiento. Actualmente, algunos de esos agentes son contenidos en cierta medida por las normas morales y por las leyes, pero hay posibles escenarios futuros en los que esas formas de contención podrían ser ineficaces o insuficientes (por ejemplo, en un futuro con IA autónomas y poderosas, y/o con la colonización espacial).

Los individuos que tienen rasgos de personalidad como la psicopatía, el sadismo, el narcisismo y el maquiavelismo aumentan la probabilidad de que se materialicen riesgos-s cuando alcanzan posiciones de poder⁷⁷. Y no es raro que ocupen esas posiciones, pues generalmente tienen un fuerte deseo de poder y su personalidad les da muchas ventajas en esa búsqueda (y ese deseo y esa ventaja son mayores cuanto mayor es el número de esos rasgos en un mismo individuo). Estos riesgos aumentan si esos agentes malévolos tienen acceso a tecnología avanzada (lo que ilustra que, cuantos más factores de riesgo se combinen, mayor es la probabilidad de que un riesgo-s se materialice, punto que examinaremos en el apartado siguiente).

8.9. Interacción entre diversos factores de riesgo y entre diversas formas de prevenirlos

Los diversos factores de riesgo interactúan entre sí. Por ejemplo, la polarización aumenta la probabilidad de que individuos con rasgos malignos lleguen al poder. Si eso ocurre, es probable que impidan los esfuerzos por prevenir los riesgos-s. A su vez, la tecnología avanzada podría multiplicar los daños causados por agentes malignos, y así sucesivamente. Como en el contexto médico, las catástrofes tienen mayor probabilidad de ocurrir si coinciden varios factores de riesgo.

Análogamente, un factor de riesgo puede mitigarse mediante un conjunto de circunstancias favorables. Por ejemplo, la tecnología avanzada es mucho menos preocupante si la consideración

por todos los seres sintientes está más difundida y existen esfuerzos adecuados para prevenir los riesgos-s. Del mismo modo, sin colonización espacial, el sufrimiento causado por un dictador maligno quedaría limitado a la Tierra, y así sucesivamente.

8.10. Conclusión

En este capítulo vimos qué son los factores de riesgo y también algunos ejemplos de factores de riesgo de los riesgos-s. Vimos también que la probabilidad de que un riesgo-s se materialice es mayor cuando coinciden varios factores de riesgo, y que las probabilidades de prevenirlo también son mayores si coinciden varias formas de prevención.

En el próximo capítulo veremos una clasificación de los tipos de estrategias para prevenir los factores de riesgo de los riesgos-s.