Malestar entre los médicos en Madrid por un proyecto de IA del que "nadie sabe nada"

Hace más de un mes, el Servicio Madrileño de Salud (Sermas) anunció un proyecto "pionero de inteligencia artificial generativa", el "primero de este tipo en España y en el mundo", rezaba el comunicado. A finales de septiembre, los médicos de atención primaria de los 425 centros de salud de la Comunidad de Madrid podrían acceder a una aplicación desarrollada con GPT-4 que les ayudaría a identificar más rápido posibles casos de enfermedades raras. El sistema, bautizado como DxGPT, llevaba ya en prueba desde febrero, pero ahora daba el salto oficial en Madrid. Sin embargo, mes y medio después del anuncio, asociaciones de médicos de atención primaria aseguran no haber recibido ni un solo e-mail sobre el supuesto piloto, del que solo conocen detalles "por la prensa".

"Ayer mismo tuvimos junta directiva y, a raíz de vuestra consulta, pusimos este tema sobre la mesa. Nadie sabía absolutamente nada. En esa junta somos 15 personas, hay unos cinco directores de centros de salud. Yo mismo soy director del centro San Blas, en Parla, y ni yo ni nadie tenemos ningún aviso o comunicación al respecto", explica a este diario Alberto Cotillas, presidente de la Sociedad Madrileña de Medicina Familiar y Comunitaria (SoMaMFyC), que aglutina a un total de 4.000 médicos de familia de la Comunidad de Madrid. "Es, cuando menos, llamativo. En otras ocasiones, la Gerencia de Atención Primaria del Sermas se suele poner en contacto, al final somos la representación directa de miles de médicos. Les tuvimos que llamar nosotros y nos dijeron que en un futuro ya nos dirían algo. No nos dieron fecha", explica sorprendido Cotillas.

TE PUEDE INTERESAR

El programa informático que trae de cabeza a los médicos en España: "Es una desesperación"

Manuel Ángel Méndez

Desde Semergen, la Sociedad Española de Médicos de Atención Primaria, que agrupa a más de 13.000 facultativos en todo el país (unos 1.300 en Madrid), confirman la misma situación. "Solo conozco lo que anunció el Sermas el 15 de septiembre. Si a la directora de mi centro le hubieran dicho algo, ya nos los habría transmitido, pero de momento nada de nada", explica a El Confidencial David Palacios, médico de familia en el centro de salud Almendrales (Usera) y presidente de Semergen Madrid. Amyts, la Asociación de Médicos y Titulados Superiores de Madrid, asegura igualmente no saber nada de los planes del Sermas. "Primera noticia". "Esto es lo de siempre: se anuncia algo que parece la leche sin fundamento real conocido. Cuestión de vender motos". Son algunas de las reacciones al preguntar en un chat de más de 50 médicos de atención primaria.

Otros facultativos consultados van más allá. "¿Qué me va a parecer? Me parece fatal. No es la primera vez que ocurre que nos enteramos por los medios de fechas de vacunas o nuevos protocolos. Pero ahora hablamos de una nueva herramienta que supuestamente vamos a poder usar miles de médicos, y no sabemos ni qué es, ni cómo funciona y tampoco quién almacena los datos o qué impacto tiene para la privacidad del paciente y para nosotros mismos. ¿Cómo nos va a afectar en nuestro trabajo diario? Esta situación me genera malestar y diría que casi cabreo", señala Dora Bejarano, pediatra en el centro de salud general Fanjul (Aluche).

Consultados al respecto, portavoces del Sermas señalan por escrito que el proyecto de IA generativa está aún en fase de "difusión", pese a que, según el anuncio, estaría ya funcionando en todos los centros de salud de la Comunidad de Madrid. "La idea es que lo utilicen todos los médicos que lo precisen", explican. No habrá un piloto en un número acotado de centros para, si el sistema funciona, llevarlo al total de 425 de la comunidad. Todos tendrán acceso a la vez. ¿Cuándo? No se sabe.

Sí ofrecen más detalles de cómo funcionará. La idea es poner a disposición de los facultativos una especie de ChatGPT especializado en enfermedades raras. Los médicos accederán a la web de DxGPT (también llamado Sermas-GPT) e introducirán los síntomas del paciente con "sospecha clínica de padecer una enfermedad rara". El sistema devolverá una lista de posibles enfermedades que coinciden con esos síntomas, y mostrará información adicional de cada dolencia.

"No guardamos ningún tipo de información. Ninguna. No hay ni retención ni almacenamiento de datos, ni tampoco se usan datos personales"

"Esta tecnología es una herramienta de ayuda al profesional cuando sospecha que se encuentra ante un paciente con una posible enfermedad rara. En ningún caso suplanta la labor del profesional", explican fuentes del Sermas. Y, más importante aún, no se introduce ningún dato personal, solo información general de síntomas, pero sin asociarlos a pacientes.

Ni guarda datos ni los transmite

Julián Isla, ingeniero de software, especialista en IA y creador de Fundación 29, confirma este frente. "No guardamos ningún tipo de información. Ninguna. No hay ni retención ni almacenamiento de datos, ni tampoco se usan datos personales. Por no haber, no hay ni transferencia de información a los servidores de Microsoft", explica a El Confidencial. Fundación 29 es en realidad el organismo que ha desarrollado DxGPT y lo ha puesto a disposición del Sermas de forma gratuita. El proyecto no cuesta, de momento, ni un solo euro de dinero público a la Comunidad de Madrid. Es más, nació como una iniciativa completamente altruista que Isla decidió impulsar motivado por su situación personal.

"A mi hijo Sergio le diagnosticaron síndrome de Dravet, pero tardaron un año en saber lo que tenía. Y eso es poco. De media, se suelen tardar unos cinco años en dar con el diagnóstico de la enfermedad rara. Durante ese año, estuvo con tratamientos que le perjudicaron aún más. Por eso me lancé a intentar mejorar esto. Creé Fundación 29 en 2017 para investigar cómo la IA puede ayudar a mejorar la vida de los pacientes con enfermedades raras", dice Isla. Este ingeniero es, además, directivo de Microsoft desde hace 25 años y trabaja en la actualidad en una de sus unidades de negocio de IA.

"Es importante aclarar esto: la Fundación 29 no recibe ni un euro de Microsoft, nuestra financiación es privada, principalmente de empresas farmacéuticas, no somos un lobby de nadie y somos 100% agnósticos de la tecnología. Empezamos a probar ChatGPT porque despuntaba, pero hemos probado con otros muchos sistemas de IA. De hecho, el código de DxGPT es abierto, cualquiera lo puede usar", explica.

Isla, junto con dos ingenieros de software empleados en Fundación 29, lleva probando DxGPT desde hace meses. Los resultados hasta ahora han sido prometedores. "Para los 200 tipos de enfermedades raras que tenemos categorizadas, hemos visto una precisión en los resultados del 90%. Es muy elevada. Eso nos hizo plantearle un piloto a la Comunidad de Madrid. Si funciona, nuestro objetivo es ponerlo a disposición de otras CCAA primero, y luego al servicio del Ministerio de Sanidad y de su proyecto Únicas", explica Isla. Impulsado por el Hospital Sant Joan de Déu de Barcelona, el proyecto Únicas cuenta con fondos europeos para crear una red nacional de tratamiento de niños y niñas con enfermedades raras.

Pese al origen altruista del proyecto, la ausencia de comunicación del Sermas con los responsables de los 425 centros de atención primaria de la Comunidad de Madrid ha puesto en guardia a los facultativos. También a los grupos políticos, que ahora exigen explicaciones. El pasado 19 de septiembre, cuatro días después del anuncio de DxGPT, Más Madrid presentó una proposición no de ley para establecer protocolos estándar en los proyectos de IA en el Sermas. "¿Qué pasa con los datos? ¿Cómo sabemos si sirven para algo?", se preguntaba el diputado de la Asamblea de Madrid Héctor Tejero.

La desconfianza es lógica. La aplicación de la inteligencia artificial al sector sanitario es uno de los negocios más jugosos para Google, Microsoft o Apple. Pero también es uno de los más espinosos, por el tratamiento de datos médicos y personales. En España, hospitales privados como la Fundación Jiménez Díaz llevan tiempo usando sistemas de IA para atender a los pacientes oncológicos mediante chatbots personalizados o para ayudar en el diagnóstico de pruebas por imagen (radiografías, TAC, etc.). HM Hospitales usa desde hace tiempo la nube de Microsoft (Azure) para desarrollar tratamientos oncológicos personalizados y algoritmos que predicen la evolución de los pacientes ingresados.

Todos estos proyectos, sin embargo, nacieron antes del boom de la IA generativa con OpenAI, por lo que es de esperar una avalancha de nuevas iniciativas con las que gigantes como Microsoft o Google van a intentar rentabilizar sus inversiones millonarias en IA. Para ello, tendrán que convencer primero a los facultativos. "Todo esto de la IA para diagnosticar enfermedades me provoca espanto. La mano humana sigue siendo imprescindible", señala la pediatra Dora Bejarano. "La idea es buena, y podría ser útil. Hay que probarlo", dice Alberto Cotillas. "Pero tienen que contar con nosotros. Al fin y al cabo, somos quienes lo vamos a utilizar".