Hay buenas y muy malas noticias. La buena noticia, al menos según un ex ejecutivo de Google, es que la singularidad está en camino. Ahora está sobre nosotros. La muy mala noticia es que representa una seria amenaza para toda la humanidad.
La terrible advertencia viene de Mo Gawdat, un gerente muy "experto". Fue director comercial de la organización Moonshot de Google, que se llamaba en ese momento Google X. Sus palabras de advertencia provienen directamente de una entrevista que Gawdat concedió al Times.
"La inteligencia artificial general es inevitable"
En la entrevista, el ex ejecutivo de Google dijo que cree que elinteligencia artificial general (AGI), el tipo de IA omnipotente y sensible (cuyos efectos nefastos hemos explorado en especulaciones de ciencia ficción como Skynet de "The Terminator") es inevitable. Una vez aquí, la humanidad puede muy bien encontrarse atravesando un apocalipsis causado por máquinas parecidas a dioses.
Gawdat le dijo al Times que tuvo esta aterradora revelación mientras trabajaba con desarrolladores de inteligencia artificial en Google X. El experimento que presenció el ejecutivo no fue nada especial, al menos en la superficie. Los desarrolladores estaban construyendo brazos robóticos que podían encontrar y recoger una pelota. Después de un período de progreso lento, Gawdat informa que un brazo agarró la pelota y pareció sostenerla hacia los investigadores en un gesto que, para él, parecía un gesto de exhibición.
"Y de repente me di cuenta de que esto es realmente aterrador", dijo Gawdat. "Me congeló por completo". “La realidad es”, agregó, “que estamos creando a Dios”.
Los peligros que ve el ex ejecutivo de Google son realistas. Pero primero tienes que enfrentarte a los reales.
La advertencia del ex ejecutivo de Google es inquietante, pero no la única. No faltan los sabios advertencias (o los vendedores de miedo, según su punto de vista) de la inteligencia artificial en el sector tecnológico. Elon Musk ha advertido repetidamente al mundo sobre el peligro de que la IA supere algún día a la humanidad, por ejemplo. Especulaciones fronterizas que, por un lado, advierten sobre los peligros, por otro, parecen demasiado "enormes" y quizás nos distraen de los evidentes ya ahora.
Por ejemplo, reconocimiento facial y policía predictiva Causar daños reales en comunidades desfavorecidas. Innumerables algoritmos continúan propagándose y codificando el racismo institucional en todos los ámbitos. Estos son problemas que pueden resolverse mediante la supervisión y la regulación.