Entre (casi) todas las tecnologías futuras y aterradoras que podrían tener un impacto negativo en el mundo, solo hay unas pocas que son absolutamente aterradoras y que nunca quisiéramos ver realizadas. A continuación se muestran algunos (sin ningún orden en particular):
Nanotecnología de guerra
Niente potrebbe causare la fine dell'umanità più rapidamente che una nanotecnologia molecolare trasformata in arma. È una minaccia che può contare su due fattori devastanti: la crescita esponenziale e la replicazione incontrollata. Un governo cinico, un soggetto non governativo o perfino un gruppo terroristico può realizzare macchine microscopiche in grado di replicarsi consumando rapidamente le risorse del pianeta. Aggeggi minuscoli che con la ferocia di un incendio trasformino la terra in una melma grigia.
Robert Freitas, esperto e teorico di nanotecnologia, ha speculato su diverse possibili varianti di nanotecnologia letale. Delle macchine aerovore potrebbero catturare tutta la luce solare, altre sarebbero ghiotte di carbonio, o di biomasse, o potrebbero "cibarsi" di particolari organismi.
Nello scenario peggiore, quello detto della "ecofagia globale", in soli 20 mesi il pianeta sarebbe distrutto completamente. In questo poco tempo a disposizione l'uomo dovrebbe contrastare macchine in apparenza inarrestabili, individuando il modo di interrompere la loro replicazione.
Per questo la nanotecnologia, conclude l'esperto, va regolata severamente imponendo una moratoria sul suo utilizzo a scopi militari.
Máquinas sensibles
È opinione comune che l'umanità assisterà prima o poi alla nascita di macchine dotate di coscienza artificiali. Bisogna però premunirsi con buon anticipo, per considerare tutte le possibili conseguenze anche etiche del caso. Un tema affrontato brillantemente anche nella serie tv "Westworld", se avete presente di cosa parlo.
Ya en 2003 el filósofo Thomas Metzinger observó que sería terriblemente cruel desarrollar software que pueda sufrir.
"Cosa direste se qualcuno venisse fuori e dicesse 'ehi, voglio creare bambini geneticamente disturbati! Per ragioni di progresso abbiamo bisogno di persone senza qualche pezzo, o con specifici deficit emozionali o cognitivi.'. Lo trovereste assurdo o no?". Di più. Lo troveremmo pericoloso. Una macchina senziente, se davvero senziente, può davvero soffrire ogni genere di deficit. E senza avere alcun comitato etico, alcuna rappresentanza in sua difesa.
Según el futurólogo Louie Helm, una de las mejores cosas de una computadora es que puedes hacer que haga cosas aburridas sin aburrirla. Desde que decidimos usar un AI en lugar de humano para algunas tareas, puede ser inmoral programarlo deliberadamente para que sea consciente de sí mismo. Atrapar una conciencia en una máquina y luego obligarla a trabajar para usted se parece mucho a la peor esclavitud de la historia.
Por no hablar de que una hipotética inteligencia artificial generada con el fin de recrear la estructura biológica del cerebro, el resultado de una buena programación podría ser el hecho de que esta inteligencia perdería la cabeza si se sometiera a una injusta y considerable carga en su psique.
Este es un motivo para prestar mucha atención al desarrollo de tecnologías aterradoras basadas en inteligencia artificial que tienen la vocación de ganar conciencia.
Lectores de la mente
El peligro de las tecnologías aterradoras vinculadas a esta posibilidad existe naturalmente en el caso de máquinas capaces de leer los pensamientos y recuerdos de una persona a distancia y sin su consentimiento. Esto será muy difícil hasta que el cerebro humano esté conectado a una red o a cualquier forma de comunicación.
El desarrollo de la lectura mental procede veloce, purtuttavia. Lo scorso anno un team olandese ha usato scansioni del cervello e machine learning per determinare quali lettere una persona stesse osservando in quel momento. La rivoluzione schiude il potenziale di ricostruire pensieri umani ad un livello di dettaglio mai visto: sarà possibile sapere cosa guardiamo, cosa pensiamo, cosa ricordiamo. Ecco. Ora immaginate una cosa del genere utilizzata da un qualsiasi regime totalitario e ripensate al concetto di "processo alle intenzioni".
