Uso, beneficios y riesgos de la inteligencia artificial (IA) en el ámbito de la salud
Mónica Lizet Morales Neira
Profesora Facultad de Derecho, Departamento de Derecho Romano y Centro de Estudios sobre Genética y Derecho (CEGD), Universidad Externado de Colombia
monica.morales@uexternado.edu.co
En los últimos años, se ha evidenciado una creciente popularidad de la Inteligencia Artificial (IA), un término que, aunque todavía resulta oscuro en cuanto a su concepto y alcance precisos[1], es considerado como uno de los factores que determinan que se esté transitando una revolución tecnológica, social, económica, política y cultural.
Si bien el término IA fue acuñado y estudiado desde mitad del siglo XX, el reciente florecimiento de este campo de estudio se ha dado en parte, gracias a que en la actualidad se cuenta con Internet, grandes y variados volúmenes de datos (históricos y en tiempo real), amplia capacidad de almacenamiento y procesamiento, así como gran sofisticación de las ciencias computacionales y desarrollo de algoritmos.
De esa manera, gobiernos, empresas, academia y ciudadanía han centrado su atención en la IA, sus usos, aplicaciones[2] e impactos en la sociedad, al ser una innovación disruptiva que aporta una propuesta de valor distinta a lo existente.
Actualmente, no resulta sencillo enumerar los usos de la IA, ya que estas tecnologías son multipropósitos y están presentes en todos los sectores económicos. Por lo anterior, constituye un nuevo factor de producción que tiene la potencialidad de aumentar la productividad, seguridad y eficiencia en distintos procesos y ser fuente de crecimiento económico. Por su parte, uno de los mayores retos es que el desarrollo de estas tecnologías se enmarque en el respeto de los valores democráticos, derechos y libertades y, por ende, se construya teniendo como centro al ser humano.
Estas tensiones entre los potenciales beneficios y riesgos de la IA, así como las implicaciones jurídicas de la adopción de estas tecnologías en el sector de la salud, son objeto de análisis del Grupo de Investigación del Centro de Estudios sobre Genética y Derecho (CEGD)[3].
La salud es uno de los sectores que más ha recibido promesas de valor relativas a la IA[4]. Ello se evidencia en los principales usos que se prevén en este campo, a saber: (i) apoyo en el diagnóstico y detección de enfermedades, a través de procesamiento de imágenes (ej.: fotografías de lesiones en piel para detección de cáncer, análisis de retina para detección de retinopatía diabética, radiografías para identificación de fracturas); (ii) medicina de precisión o personalizada, mediante el perfilamiento del paciente (incluyendo la secuenciación genómica) para determinar un tratamiento a la medida y no basado en estándares generales de “pacientes promedio”, los efectos secundarios, las posibilidades de éxito individuales, el seguimiento y monitoreo del paciente; (iii) prevención de enfermedades con análisis de información de salud y genética del paciente, factores sociales, ambientales, de comportamiento y estilo de vida junto con el uso de algoritmos predictivos; (iv) investigación científica (ej.: desarrollo de vacunas, identificación de eventos adversos frente a medicamentos, creación de nuevos medicamentos y tratamientos); (v) epidemiología digital, mediante el análisis de datos, se identifica y comprende el comportamiento de una enfermedad en poblaciones, sus patrones y dinámicas y causas, para mitigarla, controlarla y prevenirla (ej.: Google Flu Trends, HealthMap, InfluenzaNet y modelos para COVID-19); (vi) creación de políticas y toma de decisiones de salud pública; (vii) automatización y mejora de procesos en la atención y prestación del servicio de salud (ej.: manejo de citas, historia clínica, tiempos de atención, triagepor asistentes virtuales).
No obstante, el uso de IA en el sector salud genera altos riesgos que, de materializarse, su impacto resultaría gravoso para el individuo y la sociedad, por involucrar sus derechos fundamentales y el interés público. Los principales riesgos se podrían resumir en: (i) amenazas a la privacidad e incumplimiento de la protección de datos personales; (ii) entrenamiento de algoritmos y toma automatizada de decisiones basada en información errónea o de mala calidad (especialmente información histórica imprecisa o datos con sesgos discriminatorios); (iii) ausencia de control de los individuos frente a los análisis predictivos y resultados (predicciones, recomendaciones, patrones); (iv) opacidad o falta de transparencia de los algoritmos y métodos de los cuales surgen tales resultados y terminan siendo una “caja negra”.
En este contexto, el Derecho tiene un papel fundamental en la ponderación entre la promoción de la innovación al servicio del interés público y el respeto a los valores democráticos, la dignidad humana y los derechos fundamentales. Por eso, desde la academia, en el CEGD, nos proponemos contribuir al análisis interdisciplinario que requiere la IA, para plantear soluciones o criterios de valoración a dichas tensiones, en los ámbitos de protección de datos personales, contratos, responsabilidad, neuroderechos, nuevas tecnologías sobre la vida, entre otros. La IA determina un punto de inflexión en nuestra sociedad de información, estamos frente a cambios de paradigmas que es menester comprender, de allí que las facultades de Derecho debamos participar activamente en el diálogo común y transversal que nos plantea este conjunto de tecnologías.
[1] No existe consenso sobre el concepto de inteligencia artificial. Como referencia, la Unión Europea, en el primer marco de regulación que ha propuesto para la IA (Ley de IA), se refiere a la IA como un conjunto de tecnologías de rápida evolución y define los sistemas de inteligencia artificial como “un sistema basado en máquinas diseñado para funcionar con diversos niveles de autonomía y capaz, para objetivos explícitos o implícitos, de generar información de salida —como predicciones, recomendaciones o decisiones— que influya en entornos reales o virtuales” (Texto aprobado por el Parlamento Europeo el 14/06/2023: Consultado en: https://www.europarl.europa.eu/doceo/document/TA-9-2023-0236_ES.html). Esta definición es similar a la acogida por la OCDE. Fecha de consulta:09 de julio de 2023.
[2] Algunas de las áreas de aplicación más frecuentes de la IA son el procesamiento de lenguaje natural, la automatización de procesos, el procesamiento de imágenes, el aprendizaje automático (machine learning, reinforcement learning y deep learning), la robótica, sistemas colaborativos autónomos, etc. Los desarrollos de esas áreas han dejado de ser meramente teóricos y experimentales para entrar a formar parte de herramientas de uso cotidiano de las personas.
[3] El Centro de Estudios sobre Genética y Derecho hace parte de la Facultad de Derecho: Consultado en: https://www.uexternado.edu.co/centro-de-estudios-sobre-genetica-y-derecho/ Fecha de consulta: 09 de julio de 2023. Propuesta de regulación de la IA en la Unión Europea, 26 de mayo de 2021. Consultado en: https://geneticayderecho.uexternado.edu.co/regulacion-de-la-inteligencia-artificial-ia-en-la-union-europea-ue-la-propuesta-de-la-comision-europea/ Fecha de consulta: 09 de julio de 2023.
[4] Dado que la información es un factor habilitador para la IA, su desarrollo ha sido posible por el aumento de datos relativos a la salud de las personas por la creciente digitalización de información médica, el uso de dispositivos conectados a internet (Internet de las Cosas), la implementación de sistemas de información para la prestación de servicios de salud, la historia clínica electrónica, etc.