Entre (casi) todas las tecnologías futuras y aterradoras que podrían tener un impacto negativo en el mundo, solo hay unas pocas que son absolutamente aterradoras y que nunca quisiéramos ver realizadas. A continuación se muestran algunos (sin ningún orden en particular):
Nanotecnología de guerra
Nada podría provocar la desaparición de la humanidad más rápidamente que una nanotecnología molecular convertida en arma. Es una amenaza que puede contar con dos factores devastadores: el crecimiento exponencial y la replicación descontrolada. Un gobierno cínico, una entidad no gubernamental o incluso un grupo terrorista pueden construir máquinas microscópicas que pueden replicarse consumiendo rápidamente los recursos del planeta. Minúsculos artilugios que con la ferocidad de un fuego transforman la tierra en una baba gris.
Robert Freitas, experto y teórico en nanotecnología, ha especulado sobre varias posibles variantes de la nanotecnología letal. Las máquinas aeronáuticas podrían capturar toda la luz solar, otras serían ávidas de carbono o biomasa, o podrían "alimentarse" de organismos particulares.
En el peor de los escenarios, la llamada "ecofagia global", en apenas 20 meses el planeta estaría completamente destruido. En este poco tiempo disponible, el hombre debe luchar contra máquinas aparentemente imparables, identificando una forma de detener su replicación.
Por ello, concluye el experto, la nanotecnología debe ser estrictamente regulada imponiendo una moratoria a su uso con fines militares.
Máquinas sensibles
Se cree ampliamente que la humanidad, tarde o temprano, presenciará el nacimiento de máquinas de conciencia artificial. Sin embargo, es necesario tomar precauciones con mucha anticipación, para considerar todas las posibles consecuencias, incluidas las éticas, del caso. Un tema brillantemente abordado también en la serie de televisión "Westworld", si sabes de lo que hablo.
Ya en 2003 el filósofo Thomas Metzinger observó que sería terriblemente cruel desarrollar software que pueda sufrir.
"¿Qué dirías si alguien se acercara y dijera '¡oye, quiero crear niños genéticamente perturbados! Por el bien del progreso necesitamos personas sin bits, o con déficits emocionales o cognitivos específicos'. ¿Encontrarías eso absurdo o ¿no?". Es más. Lo encontraríamos peligroso. Una máquina sensible, si realmente es sensible, puede sufrir todo tipo de deficiencias. Y sin tener ningún comité de ética, tampoco representación en su defensa.
Según el futurólogo Louie Helm, una de las mejores cosas de una computadora es que puedes hacer que haga cosas aburridas sin aburrirla. Desde que decidimos usar un AI en lugar de humano para algunas tareas, puede ser inmoral programarlo deliberadamente para que sea consciente de sí mismo. Atrapar una conciencia en una máquina y luego obligarla a trabajar para usted se parece mucho a la peor esclavitud de la historia.
Por no hablar de que una hipotética inteligencia artificial generada con el fin de recrear la estructura biológica del cerebro, el resultado de una buena programación podría ser el hecho de que esta inteligencia perdería la cabeza si se sometiera a una injusta y considerable carga en su psique.
Este es un motivo para prestar mucha atención al desarrollo de tecnologías aterradoras basadas en inteligencia artificial que tienen la vocación de ganar conciencia.
Lectores de la mente
El peligro de las tecnologías aterradoras vinculadas a esta posibilidad existe naturalmente en el caso de máquinas capaces de leer los pensamientos y recuerdos de una persona a distancia y sin su consentimiento. Esto será muy difícil hasta que el cerebro humano esté conectado a una red o a cualquier forma de comunicación.
El desarrollo de la lectura mental avanza rápido, sin embargo. El año pasado, un equipo holandés utilizó escáneres cerebrales y aprendizaje automático para determinar qué letras estaba mirando una persona en ese momento. La revolución abre el potencial para reconstruir el pensamiento humano a un nivel de detalle nunca antes visto: será posible saber qué miramos, qué pensamos, qué recordamos. Aquí estás. Ahora imagina algo así usado por cualquier régimen totalitario y replantéate el concepto de “intento de juicio”.
