¿Alguna vez has visto el episodio de Black Mirror llamado "Arkangel"? Cuenta la historia de una madre demasiado aprensiva que implanta un chip en el cerebro de su hija para seguir todos sus movimientos.
Pero también lo actualiza con un par de características, como la capacidad de ver todo lo que ve tu hija y forzarla a tener censura visual automática. Básicamente, bloquea imágenes de cualquier cosa que pueda considerarse "impactante" para su hija. Su hija simplemente no puede ver lo que su madre censura. No hace falta decir que este episodio de Black Mirror no va a tener buena pinta. Es una prerrogativa del Serie distópica inglesa, por otra parte.
Actualmente se está desarrollando una tecnología que podría utilizarse para censurar automáticamente imágenes en tiempo real.
In este clip por TEDx Talks, el científico de interfaces informáticas Lonni Besançon presenta tecnología que podría hacer precisamente eso.
El sistema automático de censura visual funciona de manera ligeramente diferente a la versión que se ve en Black Mirror, con el objetivo de preservar información adicional de la imagen que se oscurece.
En lugar de simplemente pixelar imágenes "ofensivas", la tecnología de procesamiento aplicaría filtros para que la imagen fuera menos impactante. El caso de uso explicado aquí es donde una imagen quirúrgica podría volverse menos repulsiva, conservando al mismo tiempo suficientes detalles para entender lo que estaba pasando.
El núcleo de esta tecnología en particular se trata más de reducir la naturaleza impactante de imágenes o secuencias específicas, en lugar de tomar decisiones sobre lo que se considera ofensivo o impactante.
Dicho esto, el equipo de Besançon construyó un prototipo de una extensión de Chrome que puede identificar automáticamente imágenes de violencia, desnudez o médicas y aplicar filtros visuales.
Censura visual automática: cuando es correcto y cuando no.
Ciertamente, puede haber usos legítimos para esta censura basada en IA. Protección para adolescentes, moderadores de redes sociales o investigadores policiales de tener que ver imágenes perturbadoras.
Ciertamente, sin embargo, también podría usarse para imponer una censura no deseada si se usa indebidamente o se impone a las masas.
