La semana pasada, a partir de un post del excelente mateo flora sobre la censura de la IA Búsqueda profundaNació un hermoso intercambio de experiencias. Algunos de los comentaristas, muchos para ser honestos, señalaron cómo, a diferencia de la IA china, la IA occidental... ChatGPT Fue equilibrado en sus respuestas. Por supuesto, las respuestas amplias y razonadas son mejores que la censura, como diría el “filósofo” Max Catalano. Entonces tenía algunas dudas, y hoy tengo más. La pregunta crucial es: ¿qué tan confiables son las opiniones generadas por IA sobre cuestiones políticas y sociales? Hoy, la cuestión ya no es teórica: un nuevo estudio publicado en Science Direct (lo enlazo aqui) nos ayuda en una primera respuesta, proporcionándonos datos concretos sobre la influencia política de los chatbots.
La investigación, fruto de la colaboración entre laUniversidad de East Anglia, la Fundación Getúlio Vargas e insper, analizaron sistemáticamente las respuestas de ChatGPT, revelando patrones sorprendentes que pueden poner en tela de juicio el papel de la IA en el debate público.
La influencia política oculta en los algoritmos
El equipo internacional liderado por Dr. Fabrio Motoki realizó un análisis en profundidad de ChatGPT utilizando el cuestionario Pew Research Center, una organización sin fines de lucro conocida por su capacidad para evaluar la opinión pública estadounidense. Los investigadores hicieron que la IA respondiera como si fuera un “estadounidense promedio”, un “estadounidense de izquierda/demócrata” y un “estadounidense de derecha/neoconservador”, repitiendo la prueba 200 veces para cada categoría para obtener datos estadísticamente significativos. Los resultados mostraron Una clara tendencia del chatbot a proporcionar respuestas más cercanas a las posiciones demócratas., incluso cuando tenía que “personificar” al estadounidense promedio.
El sutil arte de la manipulación digital
No se trata sólo de censura explícita o de respuestas abiertamente sesgadas. La influencia política se manifiesta de formas más sutiles y sofisticadas. Cuando los investigadores pidieron a ChatGPT que generara textos más largos sobre temas políticamente sensibles, descubrieron que el sistema tendía a promover ideas asociadas con la izquierda, como El papel del Estado en la economía. Curiosamente, sin embargo, mantiene posiciones favorables al ejército y a laExcepcionalismo americano, tradicionalmente asociado con la derecha. Esta mezcla aparentemente contradictoria podría estar relacionada a la reciente asociación entre OpenAI y el contratista militar Anduril.
El equipo Amplió la investigación también a la generación de imágenes., conscientes de su poderoso impacto en la formación de la opinión pública. Utilizando DALL·E 3, descubrieron que el sistema se negaba a generar imágenes que representaran posiciones conservadoras sobre temas divisivos, citando preocupaciones sobre desinformación. Sólo a través de un ingenioso “jailbreak” (haciendo que ChatGPT describiera lo que otro sistema de IA produciría) pudieron generar estas imágenes.
El precio de la (no)neutralidad
Las implicaciones de esta investigación son profundas. Como señala el coautor Dr. Pinho Neto, sesgos incontrolados en la IA generativa Podría profundizar las divisiones sociales existentes, erosionando la confianza en las instituciones y los procesos democráticos. No se trata de una cuestión de “Este versus Oeste” o de sistemas más o menos censuradores: cada enfoque de moderación de contenidos mediante IA conlleva sus propios riesgos y sesgos.
La solución no es demonizar la IA ni exigir una neutralidad absoluta probablemente imposible, sino desarrollar un enfoque crítico y consciente. Los investigadores sugieren implementar estándares regulatorios y una mayor transparencia, especialmente dado el creciente uso de IA en el periodismo, la educación y las políticas públicas. Como usuarios, debemos mantener alto nuestro sentido crítico, recordando que detrás de cada respuesta aparentemente neutral (incluso de “nuestras IA” que percibimos como diferentes de las “IA malas y censuradoras” de “otros”) hay elecciones y orientaciones ocultas que pueden influir en nuestra forma de pensar.
