Hay un nuevo inquilino no deseado en nuestras redes sociales: spam generado por IA. Publicaciones extrañas, emocionalmente manipuladoras o abiertamente fraudulentas, creadas mediante algoritmos cada vez más sofisticados, se están extendiendo en plataformas como Facebook, Temas y LinkedIn. Y el problema se agrava por el hecho de que muchas veces son las propias redes sociales las que promocionan activamente estos contenidos, desencadenando un círculo vicioso de desinformación y frustración para los usuarios.
Meta y compañía anuncian contramedidas (como etiquetar publicaciones de IA), pero ¿es suficiente para detener esta nueva ola de spam de alta tecnología?
La extraña cara del spam de IA
Para muchos usuarios, su primer encuentro con el spam de IA es surrealista. “La letra dice 'Cierra los ojos al 70% y mira la magia'. Y sin siquiera entrecerrar demasiado los ojos, se puede ver claramente una especie de imagen de Jesús formada por verduras distorsionadas, un tractor y una niña.
¿Y queremos hablar de las miles y miles de imágenes similares con títulos idénticos? ¿Publicaciones emocionalmente manipuladoras que muestran a madres y niños discapacitados en el barro haciendo estructuras inverosímiles y complicadas con botellas de plástico? Ya estamos en un hospital psiquiátrico. Y nos lo ofrecen también como primer plato.
Si el algoritmo promueve el spam
El problema del spam de IA en Facebook se agrava por el hecho de que, en muchos casos, parece ser el propio algoritmo de la plataforma el que da visibilidad a estas publicaciones.
Un estudio realizado por investigadores de las universidades de Georgetown y Stanford analizó más de 100 páginas de Facebook que publican regularmente contenido de IA, a veces decenas y decenas de veces al día. ¿Los resultados? Son alarmantes: muchas de estas páginas se dedican a estafas y spam, y Facebook está recomendando activamente parte de este contenido en los feeds de los usuarios.
Hemos visto imágenes generadas por IA de todo lo imaginable, desde casas de troncos hasta abuelas con pasteles de cumpleaños y niños con pinturas magistrales que simplemente no podrían ser reales.
jose goldstein, investigador de Georgetown y coautor del estudio.
El lado oscuro del spam de IA
El análisis de Goldstein y su coautor reveló que algunas de estas paginas son de spammers clásicos, que publican enlaces a sitios web donde pueden recaudar ingresos publicitarios. Otros son estafadores que anuncian productos generados por IA que en realidad no parecen existir. Otros, sin embargo, y esto no es necesariamente una buena noticia, No tienen una motivación financiera clara. Simplemente parecen acumular audiencia con fines desconocidos.
"Podrían ser páginas maliciosas que intentan crear una audiencia y luego pasar a vender productos, vincular a sitios web llenos de publicidad o incluso cambiar completamente el tema a algo político", especula Goldstein. "Pero sospecho que lo más probable es que muchas de estas páginas sean simplemente creadores que se han dado cuenta de que es una táctica útil para conseguir la participación de la audiencia".
Las plataformas sociales están tomando medidas. Más o menos.
Lo sabíamos, lo venimos diciendo desde hace casi 3 años: el tsunami de contenidos deficientes producido por el uso inadecuado y ligero de la IA nos habría abrumado. ¿Y qué hacemos ahora?
Ante la ola de spam de IA, las plataformas sociales nos dicen que le pongamos fin. Facebook ha anunciado que está empezando a etiquetar algunos contenidos creados por herramientas de inteligencia artificial. La semana pasada, TikTok comenzó a aplicar etiquetas similares a algunas publicaciones generadas por IA en su plataforma.
Meta, la empresa matriz de Facebook e Instagram, dijo en un comunicado:
Trabajamos para reducir la difusión de contenido spam o sensacionalista porque queremos que los usuarios tengan una buena experiencia, por eso les damos control sobre lo que ven en su feed.
¿Está seguro?
Spam AI, el impacto negativo es fuerte
Para muchos usuarios, las medidas anunciadas en las redes sociales pueden no ser suficientes. Tengo amigos que hablan de tener que disuadir a un padre anciano de comprar carpintería y otros artículos de decoración del hogar que vieron en Facebook, que eran claramente falsos.
Algunos usuarios incluso están considerando abandonar la plataforma debido a la frustración de ser bombardeados constantemente con imágenes de spam de IA.
Aparte de la molestia (que me afecta hasta el punto de prohibir cualquier cosa de este tipo que se me presente), me gustaría discutir con ustedes las implicaciones más amplias de la difusión de imágenes artificiales por todas partes. Mi idea es que a corto plazo simplemente reforzarán la incredulidad de la gente. Y a medio plazo te harán aún más difícil distinguir lo real de lo falso. Y en el mundo, en este período histórico, perder el sentido de la realidad es muy peligroso.
El futuro es una incógnita.
¿Serán suficientes las contramedidas agitadas por los maestros de la conversación social? Etiquetar contenido generado por IA puede ser un paso en la dirección correcta, pero no será suficiente para detener el flujo de publicaciones falsas y engañosas que están invadiendo nuestros feeds.
Y la facilidad con la que cualquiera puede crear contenido de IA corre el riesgo de convertir esta tendencia en un problema endémico. En esencia, el aumento del spam de IA en las redes sociales es un síntoma de un problema mayor: la dificultad de navegar en un mundo donde la línea entre la realidad y la ficción es cada vez más borrosa.
Sin embargo, debemos orientarnos, incluso a costa de grandes esfuerzos: porque perderse en este mar de mentiras lleva un momento.
