Futuro cercano
Sin resultado
Ver los Resultados
27 2023 septiembre
  • Home
  • Tecnología.
  • salud
  • Ambiente
  • Energía
  • Transporte
  • Spazio
  • AI
  • Conceptos
  • H+
Comprender, anticipar, mejorar el futuro.
CES2023 / Coronavirus / Rusia-Ucrania
Futuro cercano
  • Home
  • Tecnología.
  • salud
  • Ambiente
  • Energía
  • Transporte
  • Spazio
  • AI
  • Conceptos
  • H+

Comprender, anticipar, mejorar el futuro.

Sin resultado
Ver los Resultados
Tecnología

¿Las peores amenazas de la inteligencia artificial? No los imagines

Esperanzas y peligros: un equipo multidisciplinario clasifica las peores amenazas de la inteligencia artificial. Con resultados inesperados.

Agosto 10 2020
gianluca ricciogianluca riccio
⚪ 4 minutos
Compartir80Pin18Tweet50EnviarCompartir14CompartirCompartir10

LEER EN:

Como si 2020 no fuera ya lo suficientemente catastrófico, un equipo de académicos, legisladores y expertos en inteligencia artificial nos advierten sobre problemas en el horizonte. 18, para ser precisos. Estas son las principales amenazas de la IA por las que deberíamos preocuparnos en los próximos 15 años.

La ciencia ficción y la cultura popular quieren hacernos creer que nuestra ruina vendría de los disturbios de los robots inteligentes. En realidad uno estudio reciente in Crime Science revela que la peor amenaza tendrá más que ver con nosotros que con la propia inteligencia artificial.

Al evaluar las amenazas basadas en el daño potencial, la rentabilidad, la viabilidad y la derrota, el grupo identificó que el deepfake, una tecnología que ya existe y se está difundiendo, representa el nivel de amenaza más alto.

Deepfake, el enemigo número uno

Hay una diferencia fundamental entre un motín robótico y la tecnología deepfake. El primero podría causar daños materiales. El segundo es sistémico: podría provocar la erosión de la confianza en las personas y en la propia sociedad.

La peor amenaza de la inteligencia artificial siempre puede parecer algo lejano en el futuro. Después de todo, ¿cómo puede dañarnos la IA si Alexa ni siquiera puede configurar un temporizador de pasta correctamente hoy? Shane Johnson, director del Dawes Center for Future Crimes de la UCL que financió el estudio, explica que estas amenazas se volverán cada vez más sofisticadas y se entrelazarán con nuestra vida cotidiana.

El artículo continúa después de los enlaces relacionados.

Sin un freno de las instituciones, ¿conducirá la IA al neofeudalismo privado?

Llega TeddyGPT, el primer osito con IA que habla y aprende con los niños

"Vivimos en un mundo en constante cambio que crea nuevas oportunidades, buenas y malas", Johnson advierte. "Es por eso que es una prioridad anticipar futuras amenazas de delincuencia para que los legisladores y otros con la competencia para actuar puedan hacerlo antes de que ocurran problemas graves".

Los autores admiten que los juicios expresados ​​en este estudio son de naturaleza intrínsecamente especulativa y están influenciados por nuestro panorama político y técnico actual, pero no se puede ignorar el futuro de estas tecnologías.

Cómo nació la "playlist" de las peores amenazas

Para formular sus predicciones para el futuro, los investigadores reunieron a un equipo de 14 académicos en campos relacionados, siete expertos del sector privado y 10 expertos del sector público.

Luego, estos expertos se dividieron en grupos de cuatro a seis y recibieron una lista de problemas potenciales que la IA podría crear. Escenarios que van desde amenazas físicas (ataques de drones autónomos) hasta formas digitales de amenazas como el phishing.

Para emitir su juicio, el equipo consideró cuatro características principales de los ataques:

Daño potencial
rentabilidad
factibilidad
vulnerabilidad

Para los expertos, el daño de deepfake sería material, mental e incluso social. También podrían dañar otras inteligencias artificiales (por ejemplo, evadiendo el reconocimiento facial) o ser frutos indirectos (por ejemplo, chantajear a las personas mediante un video deepfake).

Si bien estos factores realmente no se pueden separar entre sí (por ejemplo, el daño de un ataque puede depender en realidad de su viabilidad), se pidió a los expertos que consideraran el impacto de estos criterios por separado.

Luego se ordenaron las puntuaciones de los diversos grupos de expertos para determinar los ataques más dañinos en general que a través de la IA (o por una IA) podremos ver en los próximos 15 años.

La peor amenaza que trae la inteligencia artificial
Un gráfico que muestra la distribución de las diversas amenazas en diferentes cuadrantes.

Mimado por elegir

Al comparar 18 tipos diferentes de amenazas de IA, como se mencionó, el grupo determinó que las manipulaciones de video y audio en forma de deepfake son las peores amenazas de la historia.

"Los humanos tienen una fuerte tendencia a creer lo que ven y oyen. Es por eso que tradicionalmente se ha dado mucho crédito (y, a menudo, valor legal) a las pruebas de audio y video, a pesar de una larga historia de engaños fotográficos", explican los autores. "Pero los desarrollos recientes en aprendizaje profundo (y deepfakes) han aumentado en gran medida las posibilidades de generar contenido falso".

¿El impacto potencial de estas manipulaciones?

Desde personas que estafan a los ancianos haciéndose pasar por un miembro de la familia hasta videos diseñados para sembrar desconfianza en las figuras públicas y gubernamentales. Ataques que son difíciles de detectar para las personas (e incluso para expertos en algunos casos) y difíciles de detener.

Otras amenazas importantes incluyen los vehículos autónomos utilizados como armas remotas. Curiosamente, el grupo consideró a los robots robóticos (pequeños robots que pueden trepar por las cunetas para robar llaves o abrir puertas a ladrones humanos) como una de las amenazas menos peligrosas.

Las peores amenazas de la IA. Entonces, ¿estamos acabados?

No, pero tenemos que trabajar en ello. En nuestras imágenes optimistas hay una especie de botón para detener a todos los robots y todas las computadoras malvadas.

En realidad, la amenaza no está tanto en los propios robots. Está en la forma en que los usamos para manipularnos y dañarnos unos a otros.

Si entendemos esto y hacemos todo lo posible para anticiparnos a estos peligros, realmente podemos contrarrestar cualquier apocalipsis robótico.

Tags: AIinteligencia artificial

Últimas noticias

  • Sin un freno de las instituciones, ¿conducirá la IA al neofeudalismo privado?
  • ¿Cuándo nos extinguiremos? Aquí viene una (bonita) predicción de la supercomputadora
  • ADN y longevidad: cómo los 'genes saltarines' podrían prolongar nuestras vidas
  • Llega TeddyGPT, el primer osito con IA que habla y aprende con los niños
  • Salario mínimo: ¿un paso adelante o un salto al vacío para Italia?
  • Los coches solares podrían reducir a la mitad la necesidad de carga
  • La comida loca del futuro: desde nubes comestibles hasta cerámica de mejillones
  • La NASA recuperó la muestra del asteroide Bennu: por qué es importante
  • Tesla y las nuevas capacidades de los robots Optimus: "Listos para la producción en masa"
  • EV, adiós carga frecuente: I-State promete más de 1.000 km de autonomía.


GPT Chat Megafácil!

Guía concreta para quienes se acercan a esta herramienta de inteligencia artificial, también pensada para el mundo escolar: muchos ejemplos de aplicaciones, indicaciones de uso e instrucciones listas para usar para entrenar e interrogar a Chat GPT.

Para enviar artículos, divulgar los resultados de una investigación o descubrimientos científicos escribir a la redacción

Ingresa al canal de Telegram de Futuroprossimo, haga clic aquí. O síguenos en Instagram, Facebook, Twitter, Mastodonte e LinkedIn.

FacebookTwitterInstagramTelegramLinkedInMastodontePinterestTikTok

El diario de mañana.


Futuroprossimo.it ofrece noticias sobre el futuro de la tecnología, la ciencia y la innovación: si hay algo que está por llegar, aquí ya llegó. FuturoProssimo es parte de la red Reenviar a, estudios y habilidades para escenarios futuros.

  • Ambiente
  • arquitectura
  • Inteligencia artificial
  • Gadgets
  • Conceptos
  • Diseño
  • Medicina
  • Spazio
  • Robotica
  • Trabajar
  • Transporte
  • Energía
  • Edición francesa
  • edición alemana
  • versión japonesa
  • Edición en inglés
  • Edición Portuguesa
  • Leer más
  • edición en español

Suscríbete al boletín

  • Los editores
  • Publicidad en FP
  • Política de privacidad

© 2023 Futuropróssimo - Licencia Creative Commons
Este trabajo se distribuye bajo licencia Creative Commons Reconocimiento 4.0 Internacional.

Sin resultado
Ver los Resultados
Comprender, anticipar, mejorar el futuro.
  • Home
  • Tecnología.
  • salud
  • Ambiente
  • Energía
  • Transporte
  • Spazio
  • AI
  • Conceptos
  • H+