top of page
Buscar

Caso de estudio "United Health Group" - "Ética versus Inteligencia Artificial"


La Inteligencia Artificial ha contribuido a transformar significativamente el rubro de la salud permitiendo monitoreos de variables biológicas, interpretación asistida de diagnósticos, planificación de tratamientos y gestión optimizada de recursos entre otras aplicaciones. Lamentablemente la adopción también ha generado dudas éticas en lo que involucra al consentimiento informado, la equidad en el acceso y la transparencia de los algoritmos. El uso indebido de los datos o la falta de supervisión humana conducen a sesgos sistémicos que perpetúan desigualdades o comprometen la privacidad de los pacientes.


UnitedHealth Group es una empresa de EEUU que utilizó un algoritmo para identificar a pacientes de alto riesgo con el objetivo de ofrecerles programas de atención médica intensiva. Obermeyer et al. (2019) llevó a cabo investigaciones relacionadas a una auditoría algorítmica y se descubrió que la solución digital favorecía desproporcionadamente a los pacientes blancos sobre los pacientes negros, siendo que ambos grupos tenían condiciones de salud equivalentes. Se identificó que el algoritmo de IA usaba el gasto médico histórico como variable proxy de la necesidad de atención futura, sin considerar los factores estructurales que afectan el acceso al sistema de salud en poblaciones históricamente marginadas.

Caso de estudio ético - IA en Salud
Caso de estudio ético - IA en Salud

Podemos extraer como aprendizaje que es importante diseñar e implementar procesos de supervisión ética rigurosa en la implementación y adopción de IA, más aún cuando se manejan datos sensibles como el historial clínico de los pacientes, donde la confidencialidad y “el tacto humano” son claves. Lamentablemente comienza a convertirse en tendencia que las empresas, con el afán de incrementar la rentabilidad o reducir gastos a cualquier medio con IA, actúan en desmedro de los principios fundamentales de justicia y equidad de las personas.


Desde la visión del Holding TAURUS GALAXY, las empresas deben asumir la responsabilidad de auditar las soluciones digitales que emplean con IA, asegurando que los modelos no reproduzcan sesgos sociales existentes, y si combinamos esta responsabilidad con filosofías y marcos ágiles, este principio ético debe integrarse desde las etapas iniciales del desarrollo del modelo, siguiendo la buena práctica “Shift Left”, lo que implica mayor grado de colaboración entre los equipos de desarrollo, el negocio, científicos de datos, profesionales de la salud y expertos en ética.


En base a lo anterior, se va notando la brecha empresarial de no contar con marcos regulatorios que orienten el uso empresarial de la IA con enfoque preventivo. Esto incluye la exigencia de auditorías periódicas independientes, la trazabilidad algorítmica y la explicabilidad de los sistemas. Si bien la IA puede procesar información con una velocidad y profundidad que exceden la capacidad humana, su aplicación sin un marco ético sólido puede derivar en daños reputacionales, pérdida de confianza de las personas y consecuencias legales.


Otra brecha que se logra evidenciar con el caso de estudio es que las empresas deben comprender que los datos no son neutrales. La calidad, origen y contexto de los datos afectan directamente los resultados generados por la IA. Cuando se utilizan indicadores que están históricamente correlacionados con prácticas discriminatorias, los algoritmos perpetúan tales inequidades haciéndose pasar con una “careta” de objetividad técnica.


Por consiguiente, y desde la visión del Holding TAURUS GALAXY, se empieza a hacer mandatorio que la #ÉticaIA forme parte del desarrollo de carrera de Líderes y colaboradores de las Organizaciones. La gobernanza de la IA no puede limitarse sólo a Áreas de Ingeniería, sino que debe convertirse en un asunto transversal a todas las unidades de negocio.


 

Fuentes verídicas sobre el caso:

  1. CBS News – “UnitedHealth uses faulty AI to deny elderly patients medically necessary coverage, lawsuit claims” (20 de Noviembre de 2023) - Información detallada sobre el sistema nH Predict y sus errores de hasta 90% - URL

  2. Star Tribune – “Lawsuit alleging UnitedHealthcare used faulty AI to deny coverage advances in federal court” (2025) – Información cubre cómo el caso avanza en tribunales y el acuerdo de US$ 20,25 M - URL

  3. Financial Times – “US health insurers face pressure over AI role in claim decisions” (5 de Marzo de 2025) – Información analiza la supervisión regulatoria, guía de Biden y la aplicación nH Predict de UnitedHealth - URL


Los invitamos a nuestros canales digitales donde podrán acceder a contenido de valor para surfear la incertidumbre de la Transformación Organizacional Lean & Agile.


Ir a YouTube Taurus | Ir a Blog Taurus | Ir a Web Taurus |


Autor: Alexis Hidalgo G. | Founder & Executive Director at Taurus Galaxy®.






Comments

Rated 0 out of 5 stars.
No ratings yet
Add a rating
bottom of page