En su último anuncio, Mark Zuckerberg, CEO de Meta, sorprendió al mundo tecnológico al declarar que quería invertir significativamente en el desarrollo de unainteligencia artificial general (AGI) y hacerlo de código abierto.
De hecho, esta intención hizo saltar de sus asientos a más de un experto del sector, provocando una oleada de reacciones de escepticismo y preocupación. ¿Por qué?
AGI Open Source: ¿un movimiento revolucionario o peligroso?
Zuckerberg, como se mencionó, declaró que la AGI desarrollada por Meta será accesible para los desarrolladores y el público, permitiendo que cualquiera pueda utilizar y adaptar esta tecnología. Sin embargo, la naturaleza de código abierto de un sistema tan avanzado como AGI plantea serias dudas sobre la seguridad y la regulación.
dama wendy hall, profesor de informática en la Universidad de Southampton y miembro del Comité Asesor de las Naciones Unidas sobre IA, describió la perspectiva de una AGI de código abierto como "realmente aterradora" y calificó la medida de Zuckerberg de irresponsable.
Es un poco como darle a la gente planes para construir una bomba nuclear.
dama wendy hall
Entrevistas y reacciones: el mundo responde
El debate sobre la AGI de código abierto no es sólo teórico. Dr. Andrés Rogoyski de la Universidad de Surrey expresó preocupaciones similares y enfatizó que decisiones de esta magnitud no deben dejarse en manos de una sola empresa de tecnología. Estos comentarios resaltan la creciente necesidad de un consenso internacional y una regulación cuidadosa en un campo tan poderoso e influyente como la inteligencia artificial.
Con el potencial de superar las capacidades humanas, la AGI podría escapar del control humano, especialmente si se vuelve ampliamente accesible con el código abierto. Necesitamos superar rápidamente nuestra incredulidad respecto de sistemas que parecían impensables hasta hace poco. Abandonar las tentaciones opuestas de 'bendecir' a la IA o considerarlo apocalípticoy simplemente trabaje para moderar tanto la herramienta en sí como su uso.
El futuro de la IA y la responsabilidad social
Zuckerberg vuelve a navegar por aguas inexploradas y lo hace con la misma ligereza y entusiasmo. sin forro para el Metaverso. Espero que se concentren en la responsabilidad social de Meta para garantizar que su AGI se desarrolle y distribuya de manera segura y ética.
La historia nos ha enseñado que las innovaciones tecnológicas, si bien aportan progreso, también pueden tener efectos secundarios negativos si no se gestionan correctamente. ¿La AGI de “código abierto” de Meta traerá innovación y progreso, o nos expondrá a riesgos inimaginables? La respuesta a estas preguntas determinará no sólo el futuro de la tecnología, sino también el curso de la sociedad humana.