La vida, como describió George Orwell en 1984 "podría hacerse realidad en 2024" si los legisladores no protegen al público de la inteligencia artificial, advirtió el presidente de Microsoft, Brad Smith. Y será "difícil ponerse al día", dado el rápido avance de esta tecnología.
"Si no hacemos cumplir las leyes que protegen al público de ese futuro, pronto descubriremos que la tecnología ha ido demasiado lejos para volver a controlarla", dijo Smith sin rodeos.
Recuerdo constantemente las lecciones de George Orwell en su libro de 1984. Hablaba de un gobierno que podía ver todo lo que todos estaban haciendo y escuchar todo lo que todos decían en todo momento. No sucedió en 1984, pero si no tenemos cuidado, sucederá en 2024.
Si Orwell hubiera estado en Beijing
En algunas partes del mundo, la realidad se acerca cada vez más a la visión distópica de George Orwell.
La ambición de China es convertirse en el líder mundial en inteligencia artificial para 2030, y muchos consideran que sus capacidades van mucho más allá de las de Europa.
- En 2019, China ha vencer a los Estados Unidos en el número de patentes garantizado por instituciones académicas para la innovación en tecnologías de IA.
- Según una investigación de Comparitech, el El 54% de las 770 millones de cámaras CCTV del mundo se encuentran en China.
Médico lan xue, un consultor del gobierno chino, dijo que el reconocimiento facial podría resultar "extremadamente útil" para identificar a las personas en reuniones masivas en caso de un "accidente grave". Y les puedo asegurar que el desarrollo de esta tecnología ya está bastante avanzado.
Reacciones chinas a las acusaciones de los estadounidenses
Eric Schmidt, ex director ejecutivo de Google y ahora presidente de la Comisión de Seguridad Nacional de Inteligencia Artificial de EE. UU., advirtió que es imperativo vencer a China en inteligencia artificial.
"Estamos en un conflicto geopolítico estratégico con China", dijo. “La forma de ganar es uniendo nuestros recursos para tener estrategias nacionales y globales para que las democracias ganen en IA. Si no lo hacemos, miraremos hacia un futuro en el que se nos impongan otros valores ”. Valores a la Orwell.
El Dr. Xue no es de la misma opinión. “China no busca exportar sus valores. Por supuesto, ha logrado un progreso tremendo en el desarrollo tecnológico, y Estados Unidos siente que esto es una amenaza. Para ello han dado lugar a una especie de Guerra Fría a la tecnología "(y no solo eso, yo diría).
Aunque China tiene grandes diferencias con los Estados Unidos en sus valores y política, su visión del mundo no es la convergencia sino la coexistencia.
Keyu-jin, profesor asociado de la London School of Economics.
Proyecto Maven
Sin embargo, cuando se trata del control orwelliano, Estados Unidos muestra que tiene ambiciones que no son del todo diferentes a las de China. El Dr. Schmidt se convirtió en asesor del Pentágono en 2016, mientras mantenía el cargo de presidente ejecutivo de Alphabet, la empresa matriz de Google. En los años siguientes, Google celebró un contrato con el Pentágono lo que le permite utilizar algunas de sus tecnologías de reconocimiento de imágenes como parte de un proyecto militar.
El proyecto, llamado Maven, utilizó el aprendizaje automático para distinguir personas y objetos en videos de drones.
"Maven en ese momento era ... una forma de reemplazar los ojos humanos con visión automática para imágenes de drones que se usaban en varios conflictos árabes", dice Schmidt. Orwell no me viene a la mente, supongo. "Vi el uso de esa tecnología como un positivo distintivo para la seguridad nacional y una buena asociación para Google". Me gustaría entender por qué una tecnología en manos chinas se vuelve inmediatamente "represiva", y la misma tecnología en manos estadounidenses se vuelve inmediatamente "positiva para la seguridad nacional", y bueno.
Y no soy el único que se lo pregunta. Incluso los empleados de Google lo han hecho, criticando el proyecto, peticionando en su contra e incluso dimitiendo.
"Google no debería estar involucrado en el negocio de la guerra", dijo el ingeniero de software. laura nolan quien renunció en 2018, cuando descubrió la naturaleza del proyecto. "Sentí que mis manos estaban manchadas de sangre".
No hace falta decir que Google dijo que su inteligencia artificial solo se usaría con fines no ofensivos, antes de retirarse por completo (?) Del proyecto Maven en junio de 2018. Dr. Orwell, lo siento, Schmidt dijo que cree que la tecnología podría ayudar. "tomar las decisiones correctas", y creer que es "algo bueno".
Wannabe Orwell, la carrera armamentista de IA
En resumen, es fácil decir "Orwell", pero lo cierto es que los ciudadanos del mundo se enfrentan a un riesgo potencial bastante bipartidista. El Departamento de Defensa sigue buscando asociaciones en Silicon Valley, en un intento por ganar la carrera mundial con China por las armas de inteligencia artificial.
Porque estamos en una competencia, porque estamos en esta competencia, de esto se trata realmente. ¿Nos ayudarán a ganar esta carrera o esencialmente estarán en contra nuestra? China no tiene el mismo sistema de gobierno que nosotros. ¿Podría la carrera armamentista de IA conducir a un conflicto con China? Absolutamente."
Seth moulton, presidente del Grupo de Trabajo sobre el Futuro de la Defensa de EE. UU., insta a las empresas de tecnología a apoyar al Departamento de Defensa.
Dr. Orwell, lo siento, Xue (ya veo a Orwell en todas partes) estuvo de acuerdo en que existe un conflicto potencial. Pero astutamente, y con el estilo suave que caracteriza al establecimiento del Imperio Celestial, dice "pero no es inevitable: Estados Unidos y China realmente deberían trabajar juntos para evitar que esto suceda".
