Hay buenas y muy malas noticias. La buena noticia, al menos según un exejecutivo de Google, es que la singularidad está en camino. Ahora está sobre nosotros. La muy mala noticia es que representa una seria amenaza para toda la humanidad.
La terrible advertencia viene de Mo Gawdat, gerente muy "experto". Fue director comercial de la organización Moonshot de Google, como se llamaba en ese momento. Google X. Sus palabras de advertencia provienen directamente de una entrevista que Gawdat concedió al Times.
"La inteligencia artificial general es inevitable"
En la entrevista, el ex ejecutivo de Google dijo que cree que lainteligencia artificial general (AGI), el tipo de inteligencia artificial inteligente y omnipotente (cuyos nefastos efectos hemos explorado en especulaciones de ciencia ficción como Skynet de "The Terminator") es inevitable. Una vez aquí, es muy posible que la humanidad se encuentre experimentando un apocalipsis causado por máquinas divinas.
Gawdat le dijo al Times que tuvo esta aterradora revelación mientras trabajaba con desarrolladores de inteligencia artificial en Google X. El experimento que presenció el ejecutivo no fue nada especial, al menos en la superficie. Los desarrolladores estaban construyendo brazos robóticos que podían encontrar y recoger una pelota. Después de un período de progreso lento, Gawdat informa que un brazo agarró la pelota y pareció sostenerla hacia los investigadores en un gesto que, para él, parecía un gesto de exhibición.
"Y de repente me di cuenta de que esto es realmente aterrador", dijo Gawdat. "Me congeló por completo". “La realidad es”, añadió, “que estamos creando a Dios”.

Los peligros que ve el exejecutivo de Google son realistas. Pero primero tienes que enfrentarte a los reales.
La advertencia del exejecutivo de Google es inquietante, pero no la única. No faltan las advertencias sabias (o los vendedores de miedo, según su punto de vista) de la inteligencia artificial en el sector tecnológico. Elon Musk ha advertido repetidamente al mundo sobre el peligro de que la IA algún día supere a la humanidad, por ejemplo. Especulaciones fronterizas que, por un lado, advierten sobre los peligros, por otro parecen demasiado "enormes" y quizás nos distraen de los evidentes ya ahora.
Por ejemplo, reconocimiento facial y policía predictiva Causar daños reales en comunidades desfavorecidas. Innumerables algoritmos continúan propagándose y codificando el racismo institucional en todos los ámbitos. Estos son problemas que pueden resolverse mediante la supervisión y la regulación.