En el corazón de Manhattan, tres palabras grabadas en casquillos de bala (“negar, defender, deponer”) revelan una historia aún más profunda que el brutal asesinato del director ejecutivo de UnitedHealthcare. ¿Cual? el de un algoritmo sanitario que ha negado cuidados vitales a miles de personas mayores, ignorando los consejos de los médicos en casi todos los casos.
Una historia que parte de las noticias de los últimos días, y plantea inquietantes interrogantes sobre el papel de la tecnología en las decisiones relativas a la vida y la muerte.
Que paso
Brian Thompson, de 50 años, director ejecutivo de UnitedHealthcare, un gigante estadounidense de seguros médicos, fue asesinado en Manhattan el miércoles por la mañana. Un asesino enmascarado lo esperó afuera del Hotel Hilton y le disparó por la espalda.
Su empresa, con Un volumen de negocios de 280 mil millones de dólares, se ha visto envuelto en una serie de controversias, desde
investigaciones antimonopolio a la acusación de haber utilizado un algoritmo para
negar asistencia de rehabilitación a pacientes gravemente enfermos a principios de este año.
El algoritmo sanitario que decide a quién tratar
Cuando la inteligencia artificial entra en las decisiones sobre la vida de las personas, la línea entre eficiencia e inhumanidad se vuelve delgada. El algoritmo sanitario nH predecir, implementado por UnitedHealthcare, fue diseñado para agilizar las decisiones de reembolso médico. En realidad, se ha convertido en un sistema automatizado de denegación de tratamiento, con una tasa de “error” del 90%.
La demanda presentada de las familias de dos pacientes fallecidos revelaron cómo este algoritmo sanitario ignoraba sistemáticamente las valoraciones de los médicos. Aún más preocupante es la conciencia que UnitedHealthcare estaba al tanto de estos errores pero continuó usando el sistema.
La tecnología, que debería ser una herramienta de apoyo, se ha convertido en un juez implacable de la salud de otras personas, con consecuencias devastadoras para miles de pacientes de edad avanzada.
Venganza contra el sistema
El asesinato del director general Brian Thompson provocó reacciones encontradas en las redes sociales. El asesino, aún no identificado, se ha marchado. Un mensaje inquietante en los casquillos.: un manifiesto de ira contra un sistema que antepone los algoritmos a la humanidad.
Si para entender un asesinato se necesita un arma, un motivo y un culpable, ya lo tenemos casi todo (incluida una foto del probable asesino). En cuanto al motivo, sin embargo, como se informó The American Prospect, Aproximadamente 50 millones de clientes pueden haber tenido motivos para estar resentidos con UnitedHealthcare. 50 millones de asesinos potenciales y 50 millones de víctimas al mismo tiempo.
Por eso la reacción pública sorprendentemente festiva ante el asesinato revela una profunda crisis de confianza en el sistema de salud estadounidense. Las tres palabras en los caparazones cuentan una historia de frustración sistémica, donde la tecnología se utiliza como escudo para decisiones que impactan cruelmente la vida de las personas.
El futuro de la atención sanitaria automatizada
Esta historia, como se mencionó, plantea preguntas cruciales sobre el futuro de la atención médica. Integración de la inteligencia artificial en el sector médico es inevitable, pero ¿cómo podemos garantizar que siga siendo una herramienta al servicio de la humanidad y no al revés?
Un algoritmo sanitario puede procesar enormes cantidades de datos y potencialmente mejorar la eficiencia del sistema. Pero el caso de UnitedHealthcare también demuestra los enormes peligros de delegar por completo las decisiones médicas a la automatización.
El desafío para el futuro será encontrar un equilibrio entre la innovación tecnológica y la supervisión humana, asegurando que la eficiencia nunca prevalezca sobre la ética y la compasión.
Vigilancia y control en la asistencia sanitaria moderna
El uso de algoritmos sanitarios también plantea interrogantes sobre la privacidad y el control de los datos médicos. Cuando un sistema automatizado tiene el poder de decidir sobre el destino médico de una persona (o sobre su capacidad de conducción), ¿quién controla este sistema? ¿Quién garantiza la transparencia de sus decisiones?
La creación de nH Predict demuestra cómo la falta de supervisión puede conducir a un abuso sistémico. La tecnología sanitaria del futuro deberá ir acompañada de controles y equilibrios rigurosos.
Esta trágica historia debe servir como advertencia para el futuro de la atención sanitaria digital. La integración de la tecnología en el sistema de salud es necesaria, pero debe estar guiada por principios éticos claros y una supervisión humana constante.
