Construyendo una arquitectura ética y técnica para una IA en salud centrada en la dignidad humana

La irrupción de la inteligencia artificial en el sistema sanitario requiere una discusión urgente y con ese diagnóstico, la Asociación Médica Argentina (AMA) y la Sociedad Argentina de Inteligencia Artificial (SAIA) convocaron a una mesa de consulta nacional que reunió a expertos, académicos, pacientes y desarrolladores para debatir cómo incorporar estas tecnologías sin profundizar inequidades ni poner en riesgo la seguridad clínica.

Con la consigna “Construyendo una arquitectura ética y técnica para una IA en salud centrada en la dignidad humana”, el encuentro, realizado el lunes 20 de abril en la sede de la AMA, convocó a medio centenar de referentes y funcionó como punto de partida para la elaboración de un documento de posición que buscará ordenar el debate en torno a la IA en salud, en un contexto donde la tecnología avanza más rápido que su regulación.

El evento contó con presentaciones, trabajo grupal y plenario, bajo coordinación de Jenny González.

Como antesala a la consulta nacional y bajo la órbita del Comité de Transformación Digital de la Asociación Médica Argentina de la AMA y de la SAIA, se conformó un Think Tank que reúne a referentes académicos, científicos, tecnológicos y del ámbito sanitario.

El espacio está integrado por especialistas de diversas instituciones: Adriana Baravalle (Directora del Laboratorio de Tecnologías Exponenciales - Universidad Austral); Karina Papini (Subdirectora de IA Lab de la Facultad de Derecho UBA); Martín Romero (Líder de Innovación y Transformación Digital Instituto Universitario Fundación Barceló); Hernán Seoane (Director del Departamento de Postgrado de la Univ. Fundación Barceló); María Isabel Iñigo Pietralandia (Instituto de Bioética, Universidad Católica Argentina); Fabio Budris (Miembro del Board SAIA); Jenny González (Secretaria Comité de Transformación Digital Asociación Médica); Cristian Santander (Director de Laboratorio IA UTN); Santiago Palma (Secretario de Innovación y Vinculación Universidad Nacional de Córdoba); Florencia Braga Menéndez (Asociación Argentina de Pacientes-ALAPA) y Judit Díaz Bazán (Presidenta del Comité de Transformación Digital Asociación Médica Argentina). 

Una tecnología que avanza más rápido que el sistema

La jornada comenzó con las palabras de Miguel Galmés, presidente de la AMA, quien enfatizó la necesidad de articulación tecnológica con seguridad jurídica. “La inteligencia artificial es algo que nos supera, pero al mismo tiempo es una herramienta que todos podemos utilizar” dijo y agregó que “en salud todavía no estamos en condiciones de adoptarla plenamente”. Galmés trazó una línea histórica que conecta el presente con los primeros debates sobre digitalización y recordó que “es un camino que empezamos en 2001 con la discusión sobre la firma digital y nuestra intención siempre fue dar seguridad jurídica a médicos, instituciones y pacientes”. Además, advirtió sobre el núcleo del problema: “La inteligencia artificial puede cometer errores o distorsionar la verdad. En salud eso no es aceptable y por eso necesitamos una gobernanza clara, que garantice seguridad para el profesional y tenga como eje al paciente”. “Creemos que la Asociación Médica Argentina puede cumplir un rol clave: formar parte de ese proceso, liderar las discusiones iniciales y contribuir a la construcción de una verdadera gobernanza de los datos, que consideramos un desafío único y central para el futuro”, concluyó Galmés.

La IA como “golpe” inevitable

Desde una perspectiva más disruptiva, Alexander Ditzend, presidente de SAIA, definió el momento actual con una metáfora directa: “Se habla mucho de tsunami, pero yo lo veo más como una cachetada fuerte. Sabemos que ese golpe viene entonces la pregunta es si lo vamos a recibir distraídos o preparados”.

Para ilustrar el salto tecnológico, citó un caso reciente: “Se tomaron diez problemas matemáticos que no estaban en los datos de entrenamiento y la inteligencia artificial resolvió seis. Eso cambia completamente la conversación: ya no estamos hablando sólo de repetir información, sino de generar conocimiento nuevo”.

Lejos de una visión de reemplazo, Ditzend insistió en la complementariedad y señaló como “clave” este punto al definir que “no es una inteligencia que reemplaza, es una inteligencia complementaria”. Para el presidente de la SAIA “la inteligencia humana no es el único eje posible” y sostuvo que “existe también la capacidad de las máquinas de procesar enormes volúmenes de información, condensarla y explorar combinaciones a una velocidad imposible para nosotros. Y más aún en el futuro, cuando esto se combine con la computación cuántica”.

Además, sostuvo que “el camino es la colaboración: nosotros aportamos intuición, criterio, comprensión profunda; la inteligencia artificial aporta capacidad de cálculo, escala y velocidad” y de esa combinación, dijo, surgirán los avances en ciencia, nuevos materiales, en tratamientos y en soluciones para enfermedades.

En cuanto al impacto en el sistema sanitario, concluyó que “a más inteligencia artificial, más demanda de médicos, más investigación y más bienestar. Ese es el mundo que viene”.

El “médico aumentado” 

Fabio Budris, miembro del Board de SAIA, subrayó el carácter transversal del cambio y resaltó que “no hay ninguna industria que se vaya a salvar de esta transformación, pero la salud es una de las más importantes porque nos atraviesa a todos”. En ese punto, resaltó un dato estructural que refuerza la urgencia: “Para 2030 va a haber un déficit global de entre 10 y 12 millones de médicos y el sistema no da abasto” y frente a este escenario como  una oportunidad “el concepto de ‘médico aumentado’; profesionales que, apoyados en inteligencia artificial, pueden ampliar su capacidad y llegar a más personas”.

Para Budris, es necesario verlo como “una oportunidad”. “Más allá de que haya más trabajo y más profesionales, lo más importante es que estamos ante la posibilidad de transformar la medicina en algo más justo, más eficiente y más accesible para todos”, dijo y advirtió que este proceso “nos invita a potenciar aquello que la inteligencia artificial no tiene: la empatía, la intuición, la imaginación. En definitiva, todo lo que nos hace profundamente humanos.”

Ordenar el debate

La presidenta del Comité de Transformación Digital de la AMA, Judit Díaz Bazán, presentó el trabajo inicial que articula a ambas instituciones y sostuvo que “esta iniciativa surge de una inquietud común: cómo transitar este cambio tecnológico sin perder los principios del ejercicio de la medicina”. En este sentido destacó:  “el compromiso ético, el ‘no dañar’ y la responsabilidad profesional no pueden correrse del centro”, al tiempo que puso foco en la construcción colectiva con participación de los pacientes. “Convocamos a actores diversos porque entendemos que esto no se puede construir desde un solo lugar; necesitamos consenso, diálogo y trabajo conjunto”, dijo Díaz Bazán y añadió que “el marco normativo es clave”. “La ley va a ser una herramienta fundamental, aunque sus tiempos son necesariamente más largos”, sostuvo y remarcó como significativo este momento que permite “poder encontrarnos, mirarnos y presentar este primer documento, que sin duda vamos a seguir enriqueciendo, también en instancias virtuales, para generar nuevos espacios de trabajo”.

Díaz Bazán adelantó que este ámbito de discusión y enriquecimiento “queda abierto a seguir sumando voluntades y construyendo juntos un camino que fortalezca el ejercicio de las ciencias de la salud, mejore la relación con los pacientes y beneficie a todas las personas que utilizan el sistema de salud.”

Infraestructura, datos y límites éticos

Durante el bloque de intervenciones, las voces del Think Tank coincidieron en que sin bases sólidas, no hay inteligencia artificial viable.

Adriana Baravalle, de la Universidad Austral, sintetizó que “no es posible desarrollar inteligencia artificial si no tenemos infraestructura adecuada, sistemas de comunicación robustos y datos de calidad”. Y agregó que “los datos son el combustible de los algoritmos,  pero además hay que preguntarse quiénes son sus dueños, cómo circulan y cómo se protegen”.

Desde la bioética, María Isabel Iñigo Pietralandia fue categórica y sostuvo que “en salud hay principios que no son negociables: calidad, seguridad del paciente y no dañar”, al tiempo que advirtió sobre los límites regulatorios: “No existe la posibilidad de regular completamente este fenómeno pero lo que sí podemos hacer es construir marcos generales que orienten su uso”.

Uno de los puntos más sensibles surgió desde la representación de pacientes. Alexis Descourvières, de ALAPA, puso el foco en las enfermedades poco frecuentes y sostuvo que 

“la inteligencia artificial puede ser clave para enfermedades invisibilizadas, donde hoy no hay respuestas”. Sin embargo, planteó una advertencia sobre prioridades: “Antes de pensar en vivir 160 años, tenemos que resolver enfermedades que hoy ni siquiera permiten llegar a los 60”. En este punto reclamó que “la gobernanza no puede ser sólo médica o técnica y los pacientes tenemos que tener voz en las decisiones”.

Por su parte, desde el ámbito académico Martín Romero alertó sobre un cambio silencioso al recordar que “los estudiantes ya usan inteligencia artificial todos los días y forma parte de su manera de aprender”, ante lo que planteó el de desafío de “no solo formar profesionales que entiendan la IA, sino también enseñarles a usarla de manera crítica y responsable”.

Finalmente Laura Bonhot, representante del laboratorio de IA de la facultad de Derecho de la UBA recordó que vienen trabajando en la intersección entre el derecho y la inteligencia artificial, especialmente en temas vinculados a la salud y, en particular, a poblaciones vulnerables como niños y adolescentes.

“En ese marco, apoyamos plenamente esta iniciativa, así como la visión planteada tanto por las autoridades de la AMA y la SAIA y nuestro aporte apunta a sumar el know-how en materia de gobernanza, regulación y participación, a partir de la experiencia que venimos desarrollando en estos temas”, sintetizó.

Dinámica grupal y consensos

Tras la introducción, las moderadoras Jackie Condomi y Trinidad Eyherabide dirigieron mesas de trabajo en dos grupos, divididos en subgrupos para analizar cuatro preguntas orientadoras. En el plenario, se sintetizaron consensos clave:

-Sin datos de calidad, los algoritmos reproducen errores y sesgos.

-La interoperabilidad y estandarización siguen siendo deudas del sistema sanitario.

-La IA debe considerarse una tecnología experimental, con validación continua.

-Es necesaria una gobernanza interdisciplinaria que incluya técnicos, médicos y pacientes.

Uno de los puntos más contundentes fue compartido por todos los grupos: Antes de escalar la inteligencia artificial, es necesario ordenar las bases del sistema de salud.

En términos técnicos, esto coincide con evaluaciones internacionales que señalan que la calidad de los datos, la infraestructura y la gobernanza son condiciones indispensables para implementar la IA de manera efectiva.

Construir antes de regular

En el cierre, Díaz Bazán retomó el sentido del encuentro y dijo: “Esto nos interpela, nos sensibiliza y nos llama a actuar. No podemos seguir usando estas herramientas sin definir sus alcances, derechos y obligaciones”. En este punto, propuso como camino “empezar a generar observatorios, espacios institucionales donde podamos documentar el uso de estas tecnologías y construir buenas prácticas”.

Finalmente, dejó una definición que sintetiza el espíritu del encuentro: “Este es un proceso de co-construcción; empezamos con un grupo motivado, pero el desafío es abrirlo, ampliarlo y sostenerlo en el tiempo”.

La mesa de consulta abrió un debate que recién empieza: la IA como desafío estructural para el sistema de salud con todo su potencial -desde mejorar diagnósticos hasta personalizar tratamientos- pero también con sus riesgos si se implementa sin bases sólidas.

En ese equilibrio entre innovación y cuidado se juega el futuro de una medicina aumentada, pero profundamente humana.