“La idea de inteligencia artificial (IA), en el fondo, es un término de marketing que en divulgación se presenta como una figura antropomorfa, incluso se habla de una inteligencia en el sentido humano de la palabra, pero estamos muy lejos de ello”, dice Alexander Zlotnik, ingeniero de Telecomunicaciones y doctor en Inteligencia Artificial que trabaja para el Ministerio de Sanidad.
“Hay muchos visionarios que dicen que llegaremos a la IA general, pero para alcanzarla quedan por superar enormes dificultades tecnológicas e incluso conceptuales, aunque sí se han dado pasos en la IA especializada, que se aplica en campos acotados”, ha reconocido el experto durante las jornadas anuales de la Sociedad de la Información en la Región de Murcia (Sicarm), enfocadas a la transformación digital en el ámbito sanitario.
“Una de las limitaciones más importantes de los sistemas actuales de IA especializada es que no saben improvisar porque no aprenden las variables que se les proporcionan. Aprenden una serie de datos en un entorno controlado, pero si este entorno cambia -por ejemplo, el cromatismo de las imágenes que se van a procesar- habrá fallos, y son elementos que hay que tener en cuenta a la hora de evaluar su viabilidad en un entorno sanitario”, arguye el ingeniero.
En su opinión, las técnicas actuales de IA son útiles en gestión sanitaria para establecer patrones de demanda o predecir el nivel de carga asistencial en casos concretos, lo que ayudaría a programar la asignación de recursos, aunque es muy importante entender que “la tecnología no está madura y puede dar lugar a errores cuando no se trata de un campo acotado como el tablero de ajedrez”.
Pone ejemplos de “fracasos estrepitosos” de IA en el campo de la salud al más alto nivel de inversiones, como el proyecto DeepMind de Google o el de IBM/Centro Oncológico MD Anderson, y trata de dilucidar cuáles serían las claves del éxito para embarcarse en este tipo de sistemas. “Primero, hay analizar la viabilidad jurídica, comenzando por la legitimidad del procesamiento de datos, pero también se requiere una viabilidad técnica y organizativa. En IA se utiliza estadística predictiva y para ello son imprescindibles datos representativos del fenómeno que se estudia y también que haya datos suficientes”, dice, tomando como muestra el caso de las enfermedades raras, cuyos estudios se basan más en heurística clínica por no haber datos.
“Otra clave consiste en entender el riesgo que estamos asumiendo al introducir sistemas de IA en la organización, por ejemplo a la hora de determinar quién asume la responsabilidad patrimonial derivada de datos erróneos”, y desde luego contar con un equipo humano que entienda las limitaciones y riesgos reales del sistema que se va a implantar, con ayuda de un expertise de la organización. Finalmente, Zlotnik aboga por que se dote de recursos y apoyo suficiente al proyecto, sin olvidar el requerimiento de “gestores capacitados”.
Abrir los datos de salud
Para Julián Valero, catedrático de Derecho Administrativo en la Universidad de Murcia (UMU), con la IA se trabaja en un marco jurídico lleno de tensiones por el delicado equilibrio con la protección de datos, si bien lo más difícil de este fenómeno tecnológico es que “aparecen nuevos sujetos que no son de la esfera pública y ello tiene importancia en el ámbito subjetivo de la aplicación de la norma de acceso a la información”. Y todo ello se desarrolla en un contexto tecnológico donde también cuentan la seguridad, accesibilidad, interoperabilidad, automatización, actualización constante de datos, etc., entre entidades públicas y privadas.
“Hay que reconfigurar las garantías jurídicas en función de estas singularidades, pero teniendo en cuenta que la fragmentación competencial que hay en España dificulta la información de calidad. Y que en un mundo interconectado los factores se multiplican porque aparecen prestadores de servicios muy distintos e intermediarios privados llamados a tener un papel importante en distintas herramientas, como las aplicaciones móviles”, apunta el jurista.
Valero se pregunta de quién son los datos que se están generando de forma tan diversa y con empresas intermediarias, dudando de si el concepto de titularidad de los datos es el adecuado “porque además de los derechos subjetivos está el interés público”. Asegura que el Derecho tiene un papel en la gobernanza de esta complejidad y se pregunta por qué no abrir los datos de salud de acuerdo con la Directiva RISP y Datos Abiertos 2019 -aunque esta no se refiere al entorno sanitario-. “Lo que habría que hacer es crear un modelo público de apertura de datos teniendo en cuenta las singularidades de los pacientes”, arguye.
Supervisor humano de IA
Otra perspectiva es la de César Nebot, profesor de Economía en el Centro Universitario de la Defensa (CUD), al afirmar que en el terreno de la IA puede haber tendencia a confundir datos con conocimiento. “La IA sobre todo reconoce patrones, pero sus variables pueden generar relatos basados en relaciones espurias, y también problemas de correlación y causalidad. Hay una parte humana a la que la IA no llega”.
En su caso viene aplicando técnicas de econometría al estudio de la resistencia bacteriana y tiene varios trabajos publicados sobre este problema, pero cree que es imprescindible concitar los esfuerzos de profesionales sanitarios con los datos epidemiológicos y el estudio de relaciones causales. “El método econométrico requiere no solo de un sistema interactivo científico en el que la IA funciona más rápido, sino también activar y mejorar las diferentes técnicas que nos permitan una mejor explotación de los datos para dar saltos cualitativos”.
Y, para ello, la IA siempre requiere un supervisor humano, según este economista, que apuesta también por un cambio de enfoque para superar relaciones espurias y la disponibilidad de datos, de forma que la IA “no se quede en un reconocimiento de patrones y pueda llegar a generar conocimiento”.
La apostilla que Magnolia Pardo, directora de la unidad española de la Cátedra Unesco de Bioética (Hifa) dejó sobre la mesa definió el verdadero estado iniciático de los proyectos de IA en el sistema sanitario: “No sabemos si estamos ante un cambio de vino viejo a botella nueva, o ante una verdadera revolución jurídica y tecnológica”.
The post Inteligencia artificial en salud, del marketing a la viabilidad appeared first on Diariomedico.com.
from Diariomedico.com https://ift.tt/2Wx1O6v
