Caso de estudio "BT Group" - "Ética versus Inteligencia Artificial"
- Alexis Hidalgo
- 27 jun
- 3 Min. de lectura
La empresa británica BT Group es una empresa de servicios de telecomunicaciones multinacional británica que enfrentó cuestionamientos éticos desde 2018-2019 por el uso de inteligencia artificial en sistemas de detección y análisis de comportamiento de clientes, implementando algoritmos que permitían predecir con alta precisión la probabilidad de que un cliente cancelara su contrato. Aunque la iniciativa estaba orientada a mejorar la retención de clientes, se generaron controversias al descubrirse que ciertos grupos demográficos eran tratados de manera desigual, lo que levantó acusaciones de discriminación algorítmica.
Este caso demuestra cómo una implementación sin una supervisión ética adecuada puede comprometer la equidad y la reputación institucional. Además de los sesgos algorítmicos, otro dilema importante surgió en torno al consentimiento informado de los usuarios. BT Group fue interpelada por no comunicar transparentemente a sus clientes que sus datos estaban siendo procesados por sistemas de IA con objetivos predictivos. De acuerdo con el UK Information Commissioner's Office, esta omisión podría constituir una vulneración del Reglamento General de Protección de Datos (GDPR), al no garantizar el derecho de los usuarios a entender cómo y por qué sus datos eran utilizados. Esta situación nos deja el aprendizaje de la importancia de que las empresas no sólo se adhieran a los marcos legales, sino que fomenten prácticas de transparencia proactiva.
Para aportar más detalles del caso de estudio de BT Group, ciertos servicios de atención fueron delegados a chatbots avanzados que decidían de manera autónoma la viabilidad de ciertos beneficios o compensaciones. Si bien esta automatización incrementó la eficiencia operativa, también se reportaron casos en los que los sistemas negaron solicitudes legítimas sin posibilidad de apelación inmediata. Esto generó una sensación de quedar desprotegidos a nivel de derechos por parte de los clientes, dejando en evidencia la necesidad de mantener mecanismos humanos de supervisión en sistemas automatizados de toma de decisiones.
Como era de esperarse, estos descuidos en las implementaciones y adopción de IA impacta indudablemente en la dimensión reputacional. La exposición pública de prácticas algorítmicas consideradas injustas puede tener consecuencias directas en la confianza del cliente y en los resultados financieros de la organización. Según un estudio de PwC, el 85% de los consumidores afirma que dejaría de interactuar con una empresa si percibe que sus datos personales no están siendo gestionados de forma ética. Este dato refuerza la necesidad de una estrategia comunicacional clara y fundamentada en principios éticos que refuercen la licencia social para operar en mercados altamente competitivos.
Desde la visión del Holding TAURUS GALAXY creemos firmemente que los dilemas éticos relacionados al uso empresarial de IA deben ser abordados desde una perspectiva multidisciplinaria que combine conocimientos técnicos, regulatorios y filosóficos. Las compañías líderes están integrando #ComitésDeÉticaIA conformados por profesionales de distintas áreas para evaluar riesgos, formular políticas internas y asegurar el cumplimiento de principios como la justicia, la explicabilidad y la rendición de cuentas.
A raíz de la polémica generada, BT Group aprendió la lección y los estudios han reportado que han creado una unidad de gobernanza algorítmica encargada de auditar los sistemas existentes y desarrollaron herramientas de monitoreo ético en tiempo real, demostrando que han adquirido un compromiso empresarial de cara a un uso más responsable de la tecnología.
Fuentes verídicas sobre el caso:
Los invitamos a nuestros canales digitales donde podrán acceder a contenido de valor para surfear la incertidumbre de la Transformación Organizacional Lean & Agile.
Ir a YouTube Taurus | Ir a Blog Taurus | Ir a Web Taurus |
Autor: Alexis Hidalgo G. | Founder & Executive Director at Taurus Galaxy®.
Respaldo internacional: Scrum Manager | Agile Alliance & CertJoin | #ISO9001_2015 | #SENCE #COMUNIDAD TAURUS GALAXY | KAIZEN CENTER | Crono IT | | ATI Consultores | ALTO - Alianza Latinoamericana de Transformación Organizacional | CAMACOES - Cámara Oficial Española de Comercio en Chile | OTIC CAMACOES | Scrum LATAM Comunidad
Comentários