La nueva investigación realizada por científicos de datos de la Universidad de Georgia es paradójica.
A pesar de la creciente preocupación por la intrusión de algoritmos en la vida diaria, las personas pueden estar más dispuestas a confiar en una computadora que en sus pares, especialmente si una tarea se vuelve desafiante.
Desde elegir la siguiente canción de la lista de reproducción hasta elegir la talla de pantalón adecuada, las personas confían cada vez más en los consejos de los algoritmos para tomar decisiones diarias y simplificar sus vidas.
Pregunte al algoritmo
"Los algoritmos son capaces de realizar una gran cantidad de tareas, una cantidad que se expande prácticamente todos los días", dice. eric bogert del Departamento de Sistemas de Información de Gestión del Terry College of Business.
Parece haber una tendencia a confiar en algoritmos a medida que una tarea se vuelve más difícil, y ese efecto es más fuerte que la tendencia a confiar en los consejos de otras personas.
Bogert trabajó con el profesor de sistemas de información gerencial rick watson y el profesor asistente Aarón Schecter en un papel publicado hoy en Nature's Scientific Reports.
El estudio
La investigación involucró a 1.500 personas y es parte de un cuerpo de trabajo más amplio que analiza cómo y cuándo las personas interactúan con algoritmos para procesar información y tomar decisiones.
Para este estudio, el equipo pidió a los voluntarios que contaran la cantidad de personas en una fotografía de una multitud, brindando apoyo a las sugerencias generadas por un grupo de otras personas y sugerencias generadas por un algoritmo.
A medida que aumentó el número de personas en la fotografía, contar se volvió más difícil y la gente comenzó a seguir las indicaciones generadas por el algoritmo en lugar de contar solos o seguir las sugerencias de otras personas.
Algoritmos en los que puede confiar
Schecter explicó que elegir contar como una tarea de prueba era importante porque la cantidad de personas en la foto hace que la tarea sea objetivamente más difícil a medida que aumenta. También es el tipo de negocio en el que todo el mundo espera que las computadoras sean buenas.
Esta es una tarea en la que las personas perciben que una computadora es buena, aunque puede ser más propensa a sesgos que contar objetos.
Aarón Schecter
La adicción es un riesgo
“Uno de los problemas comunes con la IA es cuando se usa para otorgar crédito o aprobar préstamos. Hay muchos parámetros a considerar (por ejemplo, ingresos o "solvencia"): esto lo convierte en un buen trabajo para un algoritmo.
Sin embargo, la dependencia de algoritmos es un riesgo. Digo más: puede ser malo para mí. Porque conduce a prácticas discriminatorias, quizás por factores sociales que no son considerados.
Sin duda ha oído hablar de los algoritmos de reconocimiento facialy cómo fueron procesados. Su uso revelado prejuicios culturales en la forma en que fueron construidos, que puede causar inexactitudes al hacer coincidir rostros con identidades o seleccionar candidatos calificados.
Sesgos que pueden no estar presentes en actividades como el conteo, sin embargo, es importante comprender cómo las personas confían en los algoritmos al tomar decisiones.
Confianza mutua
Este estudio, como se mencionó, fue parte del programa de investigación más amplio de Schecter sobre colaboración humano-máquina, financiado por la Oficina de Investigación del Ejército de EE. UU.
El objetivo final es observar a los grupos de humanos y máquinas que toman decisiones y descubrir cómo podemos hacer que confíen entre sí y cómo esto cambia su comportamiento.
Dado que hay muy poca investigación en ese contexto, los investigadores comenzaron prácticamente desde cero. Schecter, Watson y Bogert están estudiando actualmente cómo las personas confían en los algoritmos cuando hacen juicios creativos y juicios morales. ¿Entre los ejemplos? Escribe pasajes descriptivos o fija una fianza para los presos.
