REVISTA DYNA NEW TECHNOLOGIES

Pensemos en una red neuronal que, a partir de la exploración de miles de componentes, hubiese desarrollado algún tipo de fármaco para luchar contra la COVID-19. ¿Nos hubiésemos fiado de la misma manera que si la hubieran desarrollado unos investigadores por el método tradicional, de acumulación de conocimiento de los científicos, y lenta y ardua tarea de prueba y error en sus oscuros laboratorios?

En esta ocasión, de momento nos hemos librado de haber puesto nuestra salud en manos de una entidad artificial. La empresa Moderna empleó inteligencia artificial en su vacuna, aunque sirvió tan solo para acelerar el proceso. Pero hay nuevas oportunidades a la vuelta de la esquina.

De hecho, somos nosotros mismos los que estamos proporcionando datos a las empresas mediante el empleo de relojes inteligentes, el registro de nuestras pulsaciones, de nuestros pasos, del tiempo de nuestros paseos por el monte. ¿Y si algún día recibimos el aviso de que tenemos que ir al médico, porque nuestro reloj inteligente identifica que vamos a sufrir un ataque cardíaco?

Vayamos un poco más lejos, y es que a pesar de que no sea muy conocido, el regulador de salud de EEUU (FDA, Food and Drug Administration) ya tiene aprobados multitud de algoritmos de machine learning. Y sí, es el mismo regulador que aprobó las vacunas en ese país. Algunos de esos algoritmos son relativos a las siguientes enfermedades: Retinopatía diabética a partir del escaneo ocular, roturas de muñeca a partir de placas de rayos X, o detección de infarto cerebral durante su monitorización.

Como se ve, son algoritmos de vigilancia y aviso a especialistas, en su mayoría. Sin embargo, en su esencia, se tratan de cajas negras que intervienen en nuestra salud. ¿Cómo nos podemos fiar de que esos algoritmos funcionan correctamente? ¿Qué entendemos por un algoritmo entendible y transparente? A esto se le denomina explicabilidad de la IA (explainability of AI), y habitualmente se encuentra como XAI. Ojo, que poder afirmar con rotundidad que un algoritmo es explicable, no es nada sencillo, y las definiciones son bastante resbaladizas, tal y como lo demuestra el artículo The Mythos of Model Interpretability.

En este tema de soluciones informáticas transparentes, no descubro nada si afirmo que es mucho más fácil decirlo que hacerlo. El delicado equilibrio entre el secreto industrial y la garantía de salud pública es muy difícil de sostener, y en la mayoría de ocasiones, el derecho de la propiedad intelectual prevalece.

Poco a poco, sin embargo, van apareciendo algunos sencillos algoritmos a los cuales se les puede seguir la pista de por qué han decidido una cosa u otra. Esencial en aplicaciones de salud. Uno de ellos, por ejemplo, se denomina RETAIN, Reversed Time Attention Model, y fue desarrollado en el Instituto Tecnológico de Georgia, por Edward Choi et al.

La idea consiste en que, con el registro de las visitas al hospital de un paciente (visits, en rosa) y eventos ocurridos durante esa visita (events, en azul), intentar predecir el riesgo de ataque al corazón. Para ello, los investigadores dividieron el algoritmo en dos redes neuronales recurrentes. Esto les permitía a los investigadores distinguir en qué aspecto se estaba centrando el algoritmo. Una vez entrenada la red neuronal, el modelo podía predecir el riesgo del paciente. Pero dejaba constancia del uso de los parámetros alfa y beta y su papel en la decisión sobre el riesgo del paciente.

Como se ve, ha dado comienzo la época en la que no todas las decisiones las tomará un profesional médico. Todos los avances en el ámbito de salud pública deberían ir dirigidos a la mejora de salud de la población y eficiencia de los recursos, pero conseguirlo con inteligencia artificial, no será nada fácil.