En un tuit ayer Ilya Sutskever, el científico principal del grupo de investigación OpenAI, escribe que cree que es posible que "las grandes redes neuronales actuales ya sean algo conscientes". No hace falta decir que este es un punto de vista inusual.
Los expertos en inteligencia artificial están ampliamente de acuerdo en que la tecnología ha avanzado de manera espectacular durante la última década, pero también en que todavía está muy por detrás del intelecto humano, sin mencionar el enfoque de la conciencia.
Skynet, solo bájate
Quiero esperar que Sutskever bromeara en este tuit suyo: pero también es posible que, como destacado investigador del grupo más importante del mundo sobre inteligencia artificial, mire un metro más allá.
Desde hace tiempo se debate sobre el poder que podría tomar la inteligencia artificial general. Y el debate arrecia entre los que creen que resolverá todos nuestros problemas actuales, hasta los que detectan los riesgos de dictaduras generalizadas, u otros. que ni te imaginas.
Este tuit marca un parteaguas en el escenario de la IA
Como quiera que vea esta declaración, en cualquier caso, marca la primera vez que Sutskever (cofundador de OpenAI con Elon Musk y Sam Altman en 2015) afirma que las inteligencias artificiales están alcanzando un grado de conciencia.
Sin embargo, incluso en OpenAI tendríamos que decir. La organización sin fines de lucro nació con el objetivo de contrarrestar los riesgos existenciales de una inteligencia artificial consciente, pero fue la primera en dar a luz a una poderosa IA. ¿Tal vez para tratar de descubrir cómo detener uno? Y ese no es el único punto discutible.
Inteligencias artificiales, controversias naturales
OpenAI ha visto pasar agua debajo de los puentes. En 2019, Musk dejó la asociación tras la noticia de que el grupo había creó un generador de texto de noticias falsas que algunos sintieron que era demasiado peligroso.
almizcle tiene po decir haber dejado OpenAI porque no estaba de acuerdo con sus objetivos. Poco después, la asociación anunció que ya no era una organización sin fines de lucro. Ahora opera con un modelo de "beneficio limitado".
Es más, hasta Musk parece deslumbrado en el camino a Damasco por las inteligencias artificiales. Quiere mantenerlos bajo control, pero también hacer dinero con ellos. Ya ha anunciado que tiene un robot humanoide en desarrollo que debería desempeñar un papel en la inteligencia artificial general, aunque espera poder mantener su poder bajo control. Una idea que otros consideran simplemente imposible, si no se implementa a tiempo. Antes de que sea demasiado tarde.
¿Y Open AI?
La asociación, mientras tanto, sigue trabajando duro. Es una noticia reciente que su modelo GPT-3 fue utilizado por un programador para emular a su novia muerta, y otras comodidades de "jugar a ser Dios", para usar las palabras de Mo Gawdat. El mes pasado, sin embargo, OpenAi dio a conocer que había "corregido" el comportamiento de su inteligencia artificial.
Puede ser que la conciencia de las inteligencias artificiales sea inevitable (un grupo dice haber desarrollado una dotado de moral). Sin embargo, también puede ser que esto nunca suceda. Todavía es pronto para saberlo.
En cualquier caso, ver a uno de los principales expertos mundiales en la materia declarar que estamos presenciando el surgimiento de máquinas inteligentes es una noticia bastante relevante.
Dg
