Con la tecnología de censura visual automática ya estamos en Black Mirror

¿Alguna vez has visto el episodio de Black Mirror llamado "Arkangel"? Cuenta la historia de una madre demasiado aprensiva que implanta un chip en el cerebro de su hija para seguir todos sus movimientos.

Pero también lo actualiza con un par de características, como la capacidad de ver todo lo que ve tu hija y obligarla a tener censura visual automática. Básicamente, bloquea imágenes de cualquier cosa que pueda considerarse "impactante" para su hija. Su hija simplemente no puede ver lo que su madre está censurando. No hace falta decir que este episodio de Black Mirror no saldrá bien. Es una prerrogativa del Serie distópica inglesa, por otra parte.

Actualmente se está desarrollando una tecnología que podría utilizarse para censurar automáticamente imágenes en tiempo real.

In este clip por TEDx Talks, el científico de interfaces informáticas Lonni Besançon presenta tecnología que podría hacer precisamente eso.

El sistema automático de censura visual funciona de manera un poco diferente a la versión vista en Black Mirror, con el objetivo de preservar información adicional de la imagen que se oscurece.

En lugar de simplemente pixelar las imágenes "ofensivas", la tecnología de procesamiento aplicaría filtros para hacer que la imagen sea menos impactante. El caso de uso que se explica aquí es en el que una imagen quirúrgica podría volverse menos repulsiva, al tiempo que conserva suficientes detalles para comprender lo que está sucediendo.

El núcleo de esta tecnología en particular se trata más de reducir la naturaleza impactante de imágenes o secuencias específicas, en lugar de tomar decisiones sobre lo que se considera ofensivo o impactante.

Dicho esto, el equipo de Besançon construyó un prototipo de una extensión de Chrome que puede identificar automáticamente imágenes de violencia, desnudez o médicas y aplicar filtros visuales.

Censura visual automática: cuando es correcto y cuando no.

Ciertamente, puede haber usos legítimos para esta censura basada en inteligencia artificial. Protección para adolescentes, moderadores de redes sociales o detectives de la policía de tener que ver imágenes perturbadoras.

Ciertamente, sin embargo, también podría usarse para imponer una censura no deseada si se usa indebidamente o se impone a las masas.

Y como sucede a veces, tengo la sensación de que hay más sombras que luces.