Introducción

Cada vez es más frecuente encontrar sistemas automáticos que establecen decisiones asociadas al bienestar de las personas, sin embargo, la exactitud de los resultados o la veracidad de los datos incluídos resulta insuficiente. Es necesario asegurarse de que el sistema toma decisiones justas, sobre todo cuando nos encontramos en centros sanitarios, donde un algoritmo puede decidir quién es susceptible de recibir un tratamiento en una UCI o calcular el grado de penetración de una enfermedad infecciosa. 

Ojetivo del proyecto

El objetivo de este proyecto de investigación es el de detectar y minimizar los posibles sesgos existentes en los sistemas algorítmicos utilizados en el triaje de pacientes y en los sistemas de detección de contactos utilizados durante la crisis sanitaria de la COVID-19.

Métodos

Se ha llevado a cabo una revisión de la literatura científica existente sobre el tema, sobre todo en relación a la COVID-19, clasificando los diferentes sesgos (tipos de discriminación, falta de confidencialidad y de privacidad, etc). Una vez identificados los posibles sesgos, se ha realizado una Guía de autoevaluación ética de uso de IA en salud, que consta de un  Rationale (link al documento) junto con una herramienta de autoevaluación ética de uso de IA en salud (link a la autoevaluación).

Esta herramienta de autoevaluación se puede utilizar como un sistema de auditoría ética que permita aclarar si hay sesgos presentes en un algoritmo, tanto a la hora de calcular la recomendación como en el momento de presentar esa recomendación al personal sanitario. Con todo ello, se pretende ayudar a desarrolladores y usuarios de sistemas de IA desarrollados para COVID -19 (aunque no exclusivamente) a evitar y/o eliminar dichos sesgos del algoritmo.

Para la realización tanto de la Guía de autoevaluación ética de uso de IA en salud se ha contado con un grupo de expertos/as:

Albert Sabater (Director de l’Observatori d’Ètica en Intel·ligència Artificial de Catalunya)

Ana Valdivia (Research Associate in Artificial Intelligence (AI) at King’s College London (UK)

Angel Estella (Responsable de UCI en el Hospital de Jerez y coordinador del grupo de ética de la SEMyCIUC)

Angela Bernardo (Periodista especializada en información científica sobre la salud, miembro de CIVIO)

Anna Boix (Delegada de Protección de Datos del IDIBELL)

Beatriz López (Investigadora sobre Inteligencia Artificial en la Universitat de Girona)

Belén Andreu (Profesora de Derecho civil en la Universidad de Murcia y coordinadora de investigación de CEBES)

Iñigo de Miguel (Investigador Ikerbasque de la UPV)

Javier Sánchez (Profesor e investigador, Universidad de Córdoba Ciencias de la Computación e Inteligencia Artificial)

Karma Peiró (Periodista especializada en las TIC)

Lorena Jaume-Palasí (Fundadora de Ethical Tech Society)

Miguel Angel Royo (Investigador en salud pública del Instituto de Salud Carlos III de Madrid)

Nuria Masnou (Responsable de UCI del Hospital Universitario Josep Trueta de Girona)

Nuria Vallés (Investigadora del Barcelona Science and Technology Studies Group (STS-b), el Instituo de Histopria de la Ciencia en la UAB y el Intelligent Data Science and Artificial Intelligence Research Center (IDEAI), Universitat Politècnica de Catalunya-Barcelona Tech)

Olga Rubio (Responsable de UCI de la Fundación Althaia de Manresa y miembro del grupo de ética de la SEMyCIUC)

Rosa María Gracia (Responsable de UCI del Hospital Universitario Vall d’Hebron de Barcelona)

Sara degli Esposti (Investigadora científica en el Instituto de Filosofía de Madrid)Toni Lorente (Investigador de Eticas Consulting)