¿Impedir o dar forma a la tecnología?
Como muchos riesgos-s dependen de nuevas tecnologías, alguien podría pensar: "la solución es impedir el desarrollo tecnológico". Esa no parece ser la mejor salida:
- la tecnología también puede reducir el sufrimiento;
- aunque se lograra frenarla por un tiempo, eso no duraría para siempre;
- una campaña contra la tecnología generaría conflicto con quienes quieren sus beneficios;
- no es realista creer que lograremos frenar a tiempo las tecnologías peligrosas.
Por eso, intentar dar forma a cómo se crean y se usan las tecnologías parece más prometedor.
El caso de la inteligencia artificial
Por qué preocuparse por la IA: si algún día tiene una inteligencia mayor que la humana y actúa por su cuenta, podría dar forma a todo lo que pase después según sus objetivos. Si esos objetivos no tienen en cuenta a los seres sintientes, el resultado puede ser terrible. Y este trabajo todavía está muy desatendido.
Los riesgos de este enfoque: como no sabemos cómo serán las tecnologías del futuro, los esfuerzos por dar forma a la IA pueden ser ineficaces o incluso una pérdida de tiempo. Además, otras tecnologías, como la colonización espacial y las nuevas formas de sintiencia, pueden ser todavía más preocupantes.
En resumen
- Impedir el progreso tecnológico no parece realista ni deseable.
- Dar forma a las tecnologías es una estrategia más prometedora.
- La IA es un caso importante, pero hay otros riesgos tecnológicos.