Como si 2020 no fuera ya lo suficientemente catastrófico, un equipo de académicos, legisladores y expertos en inteligencia artificial nos advierten sobre problemas en el horizonte. 18, para ser precisos. Estas son las principales amenazas de la IA por las que deberíamos preocuparnos en los próximos 15 años.
La ciencia ficción y la cultura popular quieren hacernos creer que nuestra ruina vendría de los disturbios de los robots inteligentes. En realidad uno estudio reciente in Crime Science revela que la peor amenaza tendrá más que ver con nosotros que con la propia inteligencia artificial.
Al evaluar las amenazas basadas en el daño potencial, la rentabilidad, la viabilidad y la derrota, el grupo identificó que el deepfake, una tecnología que ya existe y se está difundiendo, representa el nivel de amenaza más alto.
Deepfake, el enemigo número uno
Hay una diferencia fundamental entre un motín robótico y la tecnología deepfake. El primero podría causar daños materiales. El segundo es sistémico: podría provocar la erosión de la confianza en las personas y en la propia sociedad.
La peor amenaza de la inteligencia artificial siempre puede parecer algo lejano en el futuro. Después de todo, ¿cómo puede dañarnos la IA si Alexa ni siquiera puede configurar un temporizador de pasta correctamente hoy? Shane Johnson, director del Dawes Center for Future Crimes de la UCL que financió el estudio, explica que estas amenazas se volverán cada vez más sofisticadas y se entrelazarán con nuestra vida cotidiana.
"Vivimos en un mundo en constante cambio que crea nuevas oportunidades, buenas y malas", Johnson advierte. "Es por eso que es una prioridad anticipar futuras amenazas de delincuencia para que los legisladores y otros con la competencia para actuar puedan hacerlo antes de que ocurran problemas graves".
Los autores admiten que los juicios expresados en este estudio son de naturaleza intrínsecamente especulativa y están influenciados por nuestro panorama político y técnico actual, pero no se puede ignorar el futuro de estas tecnologías.
Cómo nació la "playlist" de las peores amenazas
Para formular sus predicciones para el futuro, los investigadores reunieron a un equipo de 14 académicos en campos relacionados, siete expertos del sector privado y 10 expertos del sector público.
Luego, estos expertos se dividieron en grupos de cuatro a seis y recibieron una lista de problemas potenciales que la IA podría crear. Escenarios que van desde amenazas físicas (ataques de drones autónomos) hasta formas digitales de amenazas como el phishing.
Para emitir su juicio, el equipo consideró cuatro características principales de los ataques:
Daño potencial
rentabilidad
factibilidad
vulnerabilidad
Para los expertos, el daño de deepfake sería material, mental e incluso social. También podrían dañar otras inteligencias artificiales (por ejemplo, evadiendo el reconocimiento facial) o ser frutos indirectos (por ejemplo, chantajear a las personas mediante un video deepfake).
Si bien estos factores realmente no se pueden separar entre sí (por ejemplo, el daño de un ataque puede depender en realidad de su viabilidad), se pidió a los expertos que consideraran el impacto de estos criterios por separado.
Luego se ordenaron las puntuaciones de los diversos grupos de expertos para determinar los ataques más dañinos en general que a través de la IA (o por una IA) podremos ver en los próximos 15 años.
Mimado por elegir
Al comparar 18 tipos diferentes de amenazas de IA, como se mencionó, el grupo determinó que las manipulaciones de video y audio en forma de deepfake son las peores amenazas de la historia.
"Los humanos tienen una fuerte tendencia a creer lo que ven y oyen. Es por eso que tradicionalmente se ha dado mucho crédito (y, a menudo, valor legal) a las pruebas de audio y video, a pesar de una larga historia de engaños fotográficos", explican los autores. "Pero los desarrollos recientes en aprendizaje profundo (y deepfakes) han aumentado en gran medida las posibilidades de generar contenido falso".
¿El impacto potencial de estas manipulaciones?
Desde personas que estafan a los ancianos haciéndose pasar por un miembro de la familia hasta videos diseñados para sembrar desconfianza en las figuras públicas y gubernamentales. Ataques que son difíciles de detectar para las personas (e incluso para expertos en algunos casos) y difíciles de detener.
Otras amenazas importantes incluyen los vehículos autónomos utilizados como armas remotas. Curiosamente, el grupo consideró a los robots robóticos (pequeños robots que pueden trepar por las cunetas para robar llaves o abrir puertas a ladrones humanos) como una de las amenazas menos peligrosas.
Las peores amenazas de la IA. Entonces, ¿estamos acabados?
No, pero tenemos que trabajar en ello. En nuestras imágenes optimistas hay una especie de botón para detener a todos los robots y todas las computadoras malvadas.
En realidad, la amenaza no está tanto en los propios robots. Está en la forma en que los usamos para manipularnos y dañarnos unos a otros.
