Como si 2020 no fuera ya lo suficientemente catastrófico, un equipo de académicos, legisladores y expertos en inteligencia artificial nos advierten sobre problemas en el horizonte. 18, para ser precisos. Estas son las principales amenazas de la IA que deberían preocuparnos en los próximos 15 años.
La ciencia ficción y la cultura popular quieren hacernos creer que nuestra ruina vendría de los disturbios de los robots inteligentes. En realidad uno estudio reciente in Crime Science revela que la peor amenaza tendrá más que ver con nosotros que con la propia inteligencia artificial.
Al evaluar las amenazas basadas en el daño potencial, la rentabilidad, la viabilidad y la derrota, el grupo identificó que el deepfake, una tecnología que ya existe y se está difundiendo, representa el nivel de amenaza más alto.
Deepfake, el enemigo número uno
Existe una diferencia fundamental entre un motín robótico y la tecnología deepfake. El primero podría provocar daños materiales. El segundo es sistémico: podría provocar la erosión de la confianza en las personas y en la propia sociedad.
La peor amenaza de la inteligencia artificial siempre puede parecer algo lejano en el futuro. Después de todo, ¿cómo puede dañarnos la IA cuando Alexa ni siquiera puede configurar un temporizador de pasta correctamente hoy? Shane Johnson, Director del Dawes Center for Future Crimes en UCL que financió el estudio, explica que estas amenazas se volverán cada vez más sofisticadas y se entrelazarán con nuestra vida diaria.
"Vivimos en un mundo en constante cambio que crea nuevas oportunidades, buenas y malas", Johnson advierte. "Por eso es una prioridad anticipar las amenazas futuras de la delincuencia para que los encargados de formular políticas y otras personas con competencia para actuar puedan hacerlo antes de que ocurran problemas graves".
Los autores admiten que los juicios expresados en este estudio son de naturaleza intrínsecamente especulativa y están influenciados por nuestro panorama político y técnico actual, pero no se puede ignorar el futuro de estas tecnologías.
Cómo nació la "playlist" de las peores amenazas
Para formular sus predicciones para el futuro, los investigadores reunieron a un equipo de 14 académicos en campos relacionados, siete expertos del sector privado y 10 expertos del sector público.
Luego, estos expertos se dividieron en grupos de cuatro a seis y recibieron una lista de problemas potenciales que la IA podría crear. Escenarios que van desde amenazas físicas (ataques con drones autónomos) hasta formas digitales de amenazas como el phishing.
Para emitir su juicio, el equipo consideró cuatro características principales de los ataques:
Daño potencial
rentabilidad
factibilidad
vulnerabilidad
Para los expertos, el daño de deepfake sería material, mental e incluso social. También podrían dañar otras inteligencias artificiales (por ejemplo, evadiendo el reconocimiento facial) o ser frutos indirectos (por ejemplo, chantajear a las personas mediante un video deepfake).
Si bien estos factores realmente no pueden separarse entre sí (por ejemplo, el daño de un ataque puede depender de su viabilidad), se pidió a los expertos que consideraran el impacto de estos criterios por separado.
Luego, se ordenaron las puntuaciones de los diversos grupos de expertos para determinar los ataques generales más dañinos que a través de la IA (o por una IA) podremos ver en los próximos 15 años.
Mimado por elegir
Al comparar 18 tipos diferentes de amenazas de IA, como se mencionó, el grupo determinó que las manipulaciones de video y audio en forma de deepfake son las peores amenazas de la historia.
“Los seres humanos tienen una fuerte tendencia a creer lo que ven y oyen. Esta es la razón por la que tradicionalmente se ha dado mucho crédito a las pruebas de audio y video (y a menudo valor legal), a pesar de una larga historia de engaños fotográficos ”, explican los autores. "Pero los desarrollos recientes en el aprendizaje profundo (y deepfakes) han aumentado enormemente las posibilidades de generar contenido falso".
¿El impacto potencial de estas manipulaciones?
Desde personas que estafan a los ancianos haciéndose pasar por un miembro de la familia hasta videos diseñados para sembrar desconfianza en las figuras públicas y gubernamentales. Ataques que son difíciles de detectar para las personas (e incluso para expertos en algunos casos) y difíciles de detener.
Otras amenazas importantes incluyen los vehículos autónomos utilizados como armas remotas. Curiosamente, el grupo consideró a los robots robóticos (pequeños robots que pueden trepar por las cunetas para robar llaves o abrir puertas a ladrones humanos) como una de las amenazas menos peligrosas.
Las peores amenazas de la IA. Entonces, ¿hemos terminado?
No, pero tenemos que trabajar en ello. En nuestras imágenes optimistas hay una especie de botón para detener a todos los robots y todas las computadoras malvadas.
En realidad, la amenaza no está tanto en los propios robots. Está en la forma en que los usamos para manipularnos y dañarnos unos a otros.
