El Servicio de Policía de Queensland (QPS) en Australia iniciará una prueba de inteligencia artificial (IA) para determinar el riesgo futuro que algunos sujetos denunciados se involucran en violencia doméstica.
Los autores identificados como de "alto riesgo" (basados en informes anteriores, antecedentes penales u otros) serán visitados en su domicilio por la policía antes de que la violencia doméstica se intensifique y se cometa algún delito.
Violencia doméstica: la prevención es mejor, pero ...
Lo digo de inmediato: necesitamos encontrar mejores formas de mejorar la seguridad de las mujeres que son víctimas de violencia doméstica. Sin embargo, el uso de tecnología de inteligencia artificial en este contexto puede tener consecuencias no deseadas, y este plan propuesto plantea serias dudas sobre el papel de la policía en la prevención de incidentes de violencia doméstica.
El enfoque se basa en un algoritmo que se desarrolló a partir de datos existentes. Todos los algoritmos estadísticos deben evaluar el riesgo sobre la base de los datos disponibles. Esto, a su vez, significa que son "solo" tan buenos como los datos que los respaldan. No es casualidad que los expertos critiquen las herramientas de evaluación de riesgos basadas en datos en las actividades policiales, señalando la falta de transparencia en los tipos específicos de datos analizados.
Cuidado con jugar "Pre Crime"
Como se mencionó, los datos clave adquiridos de manera más consistente son información sobre situaciones pasadas en las que se llamó a la policía y datos sobre antecedentes penales. El uso de esta información para entrenar un algoritmo de inteligencia artificial podría reforzar los sesgos existentes en el sistema de justicia penal. Podría crear un ciclo de retroalimentación interminable, un círculo vicioso sin salida entre la policía y los ciudadanos que tienen más contacto con la policía.
Si también le viene a la mente la discriminación étnica, no está lejos de la verdad. En Australia, por ejemplo, las personas que más entran en contacto con la policía son los aborígenes. No es difícil imaginar que bajo este nuevo régimen "anti-violencia doméstica", los aborígenes serán visitados más por la policía.
La policía está dispuesta a decir que para este proyecto piloto se eliminaron los atributos de origen étnico y ubicación geográfica antes de entrenar el modelo de IA. A pesar de esto, es probable que los aborígenes sigan siendo un objetivo desproporcionado, ya que están sobrerrepresentados en todo tipo de contacto con la policía.
¿Es un buen enfoque basado en el riesgo del delito?
El objetivo de estas estrategias policiales basadas eninteligencia artificial es prevenir o reducir la delincuencia, mediante una evaluación del riesgo de futuros delitos. En teoría, esto significa que la policía intervendrá temprano para evitar que ocurra un delito. ¿Quién recuerda el mencionado "Precrimen" de "Minority Report"?
Digo que con este enfoque hay riesgos de que la policía incluso crear crimen. Un programa "preventivo" de este tipo puede incrementar la resistencia y los mecanismos de elusión: no me sorprendería que esto condujera a otros delitos.
En resumen, el plan propuesto por la policía australiana presenta un claro riesgo. La de ampliar la red de criminalización tanto de los perpetradores como de las víctimas (que pueden ser erróneamente identificadas como perpetradores). ¿Cómo? Por ejemplo, las víctimas que usaron la violencia en defensa propia a veces fueron arrestadas en lugar del perpetrador.
¿Podría causar más daño a las víctimas de violencia doméstica?
El papel de la víctima en un programa de este tipo también es preocupante. Cualquier programa que profundice la vigilancia de los agresores también profundiza la vigilancia de las víctimas.
Las víctimas no siempre quieren que la policía intervenga en sus vidas. En algunos casos, esta forma de vigilancia proactiva puede parecer una extensión del escrutinio en lugar de una ayuda. ¿Qué sucede cuando la policía visita y descubre que un agresor y una víctima de alto riesgo están viviendo juntos de nuevo?
Los riesgos están ahí
Las víctimas pueden temer que las autoridades de protección infantil estén involucradas y se sientan obligadas a ocultar el hecho de que todavía están con el delincuente. Y una vez que la víctima se ha visto obligada a mentir, es posible que se muestre reacia a llamar a la policía la próxima vez que necesite la intervención de la policía. En otros casos, el perpetrador o la víctima pueden decidir no seguir los consejos de seguridad de los agentes de policía que visitan. No está claro qué podría hacer la policía en una situación en la que le piden a un atacante que se vaya o intenta rescatar a una víctima, pero se niegan.
La misión de cualquier intervención de violencia doméstica debe ser restaurar el poder a las víctimas. Pero sabemos que las intervenciones no ayudan a todas las mujeres (u hombres) por igual. Las desigualdades estructurales, incluidas la raza y la clase, significan que diferentes personas experimentan las intervenciones de manera diferente.
