Introducción

La llegada de cualquier tecnología disruptiva en el ámbito de la salud supone cambios transformadores en la atención sanitaria, afectando tanto a los procesos de prestación de servicios de salud, como a la relación entre pacientes y profesionales, modificando sustancialmente la relación entre tecnología, salud y humanismo.

Este fenómeno puede producir desequilibrios y plantea cuestiones fundamentales sobre cómo deberíamos integrar estas tecnologías sin perder los valores esenciales del humanismo en salud. En este contexto, surge el concepto de humanismo digital,⁽¹⁾ que busca equilibrar el uso de tecnologías disruptivas con un enfoque centrado en las personas, promoviendo vínculos más profundos entre pacientes y profesionales. Las llamadas tecnologías de acercamiento⁽²⁾ son otro ejemplo de esta integración, ya que facilitan una atención más personalizada y humana al tiempo que aprovechan las ventajas tecnológicas para mejorar la salud.

El desafío parte, por un lado, en construir un modelo sanitario donde la tecnología sea una herramienta para potenciar las capacidades humanas sin sustituirlas totalmente. Esto requiere no solo innovación técnica, sino también un compromiso ético por parte de profesionales y desarrolladores para garantizar que el progreso científico esté alineado con principios éticos. Y, por otro lado, en volver nuestra mirada hacia los valores humanistas clásicos del movimiento intelectual y filosófico renacentista de los siglos XV y XVI, aquellos que sentaron las bases de la medicina moderna, donde el equilibrio entre ciencia y compasión era un pilar irreemplazable. El avance hacia una sociedad de la razón y la ética que transformó profundamente la sociedad europea se sustentó en cuatro pilares básicos: en primer lugar, el redescubrimiento del ser humano y del mundo desde una visión antropocéntrica que dejaba atrás la visión teocéntrica; en segundo lugar, el desarrollo del pensamiento racional, que propició a su vez el desarrollo del método científico mediante la observación, la experimentación y el juicio crítico; en tercer lugar, el impulso de la enseñanza y del conocimiento en escuelas y universidades, más allá de los primitivos monasterios; por último, el desarrollo de la imprenta, con la consiguiente extensión geográfica y social del conocimiento y la difusión de las nuevas ideas que cuestionaron los dogmas y abrieron el camino hacia la construcción de una sociedad más informada y participativa.⁽³⁾

Impacto en la salud de los algoritmos en la era de la inteligencia artificial

El uso de tecnologías digitales, y más recientemente de algoritmos basados en IA, está transformando el ámbito de la salud.⁽⁴⁾ Algunas de las aplicaciones con mayor impacto actual incluyen el diagnóstico y la detección precoz de enfermedades, la investigación y desarrollo de nuevos medicamentos, como se evidenció durante la pandemia de COVID-19 con la aceleración en el desarrollo de vacunas,⁽⁵⁾ la robótica médica y quirúrgica, así como la gestión hospitalaria y la atención al paciente. En estos campos, los algoritmos de aprendizaje profundo han mejorado la capacidad para detectar enfermedades de forma temprana,⁽⁶⁾ analizar información mediante el procesamiento de lenguaje natural y el desarrollo de nuevos fármacos a partir de la simulación de compuestos.⁽⁷⁾ El análisis masivo de datos biomédicos ha permitido personalizar tratamientos, impulsar la medicina genómica, desarrollar exoesqueletos y prótesis inteligentes, automatizar procesos hospitalarios, implementar chatbots y asistentes virtuales que facilitan el acceso a la atención sanitaria, y optimizar los recursos mediante algoritmos de predicción de la demanda asistencial.⁽⁸⁾

Pero a pesar de todos estos avances significativos, también cabe remarcar algunos de los problemas que están generando su uso, como la perpetuación de diferentes sesgos (raza, género, edad, minorías étnicas, situación socioeconómica, código postal, país, etc.) que pueden afectar a la precisión de los diagnósticos y resultados en salud del resto de proyectos relacionados con el uso de algoritmos.⁽⁹⁾,⁽¹⁰⁾ El acceso desigual a las herramientas basadas en IA es un aspecto importante para considerar. Aunque la IA tiene un enorme potencial para transformar la atención sanitaria, su implementación no es equitativa en todo el mundo ni en todos los sistemas de salud. Las disparidades en el acceso a estas tecnologías pueden perpetuar o incluso agravar las desigualdades existentes entre zonas urbanas y rurales, o entre países con diferentes niveles de recursos y desarrollo, poniendo en riesgo la equidad en la atención sanitaria.⁽¹¹⁾

Otro sesgo importante es el de la automatización: el exceso de confianza en los resultados de la IA sin cuestionar su precisión puede dar lugar a errores, especialmente cuando se reduce o elimina la supervisión humana en decisiones críticas como los diagnósticos o tratamientos.⁽¹²⁾

Además, el hecho de que muchos de estos sistemas se entrenen con datos históricos implica el riesgo de perpetuar prácticas clínicas desactualizadas, decisiones basadas en evidencia obsoleta o incluso reproducir inercias institucionales que ya no se ajustan a los avances científicos más recientes.⁽¹³⁾ Esto puede limitar el verdadero potencial de la IA como herramienta de transformación sanitaria.

Otro de los aspectos más destacados relacionados con el uso de la IA generativa son las llamadas alucinaciones (aunque el término más correcto sean fabulaciones). Consisten en la generación de información “inventada” (texto, imágenes o vídeos) que aparenta ser coherente, precisa y veraz, pero que en realidad es completamente falsa o no verificable. En el ámbito de la salud este fenómeno puede tener consecuencias graves (por ejemplo, un modelo de lenguaje podría generar referencias científicas inexistentes, sugerir tratamientos no aprobados o describir efectos secundarios ficticios de un medicamento).⁽¹⁴⁾ Este tipo de errores no siempre son evidentes para el usuario, lo que incrementa el riesgo de desinformación, diagnósticos incorrectos o decisiones clínicas equivocadas. Han sido ampliamente comentadas en medios científicos y tecnológicos, generando un clima de desconfianza en torno al uso de la IA en salud. Sin una adecuada contextualización de sus causas o soluciones, debilita la credibilidad de las herramientas y alimenta los discursos negacionistas sobre el avance tecnológico.⁽¹⁵⁾

Y otro problema relevante es la opacidad algorítmica, donde muchos modelos de IA operan como una ‘caja negra’. Esto significa que, aunque los algoritmos generan decisiones o recomendaciones, no siempre es posible entender cómo llegaron a ellas. Esta falta de transparencia plantea un desafío significativo, ya que los profesionales sanitarios y los pacientes no pueden evaluar completamente la fiabilidad de las decisiones tomadas por un algoritmo, lo que debilita la confianza en su uso y plantea problemas de responsabilidad ante posibles errores.⁽¹⁶⁾

Junto a los riesgos técnicos, no podemos perder de vista algunos aspectos más humanos. Una dependencia excesiva de la IA en los procesos asistenciales puede reducir la interacción directa entre profesionales y pacientes, lo que afecta no solo a la calidad de la comunicación clínica, sino también a dimensiones clave como la empatía, la escucha activa o el vínculo terapéutico.⁽¹⁷⁾

Todo ello nos obliga a abrir un debate profundo sobre las implicaciones éticas, porque la IA no debe sustituir lo humano, sino potenciarlo: ese debe ser el principio rector.

Hacia un Renacimiento tecnológico-humanista

A la hora de abordar la perspectiva humanista en el uso de herramientas tecnológicas para el cuidado de la salud, volveremos la vista atrás para analizar cuáles fueron las principales aportaciones de algunos humanistas durante el Renacimiento.

Fue Erasmo de Róterdam, llamado “príncipe de los humanistas”, uno de los primeros que aplicó el intercambio epistolar en sus continuos viajes, lo que le valió el apodo de “nómada del saber”.⁽¹⁸⁾ Un precursor de las redes intelectuales, una tecnología incipiente, pero que después tuvo un gran impacto.⁽¹⁹⁾ Su rechazo a la vida académica estable le otorgó una libertad de pensamiento propia, alejada de algunos convencionalismos de la época. Erasmo emergió como un símbolo del humanismo, desafiando las estructuras establecidas para devolver el foco al individuo y al poder transformador del conocimiento. Su obra “Elogio de la locura” no solo cuestionó los dogmas de su tiempo, sino que también ofreció una mirada irónica y reflexiva sobre las contradicciones humanas, abriendo un camino para la autorreflexión colectiva. Erasmo creía en el potencial del ser humano para mejorar el mundo a través de la educación, el diálogo y la razón, conceptos que resonaron como una llamada a reconciliar el avance con los valores esenciales de la humanidad.

Por otro lado, fue un contemporáneo suyo, Juan Luis Vives, quien demostró un pensamiento visionario dentro de la filosofía humanista, al realizar planteamientos sobre cómo el conocimiento y la organización podían utilizarse para mejorar la vida de las personas más vulnerables.⁽²⁰⁾ Un principio aplicable a la tecnología moderna para localizar a los grupos desfavorecidos para promover la equidad y su inclusión en la sociedad.

Hoy, en la era de la IA, las figuras de Erasmo y Vives parecen más relevantes que nunca. Al igual que Erasmo cuestionó las estructuras de poder de su época, las tecnologías digitales han comenzado a desmantelar las jerarquías tradicionales del conocimiento, democratizando el acceso a la información y otorgando a las personas herramientas que transforman su capacidad de crear, decidir y conectarse.

Además, Erasmo abogó siempre por una educación integral, universal y razonada de todos los ciudadanos, no solo de los expertos técnicos sino de toda la población, promoviendo el entendimiento mutuo entre diferentes culturas y religiones. Esto subraya la importancia de desarrollar tecnologías que fomenten el acceso igualitario desde su diseño y respeten la diversidad cultural, lingüística y social. Su afán por poner al ser humano en el centro de cualquier avance le hizo reflexionar sobre el binomio sabiduría y locura humanas con una mordaz crítica sobre los excesos del poder y el peligro de la falta de equilibrio.⁽²¹⁾ Esto aplicado al contexto actual bien podría relacionarse con la necesidad de regular el uso y diseño, así como de velar por evitar los sesgos algorítmicos y por la privacidad. Para ello, siempre destacó la importancia de ver la humanización como fin y no como un medio. También defendió la importancia del equilibrio entre el saber y la ética, entre el avance intelectual y la empatía humana. Del mismo modo, el desafío actual radica en garantizar que las tecnologías, por más avanzadas que sean, no nos despojen de nuestra esencia. Del mismo modo que Erasmo utilizó el conocimiento como un arma para iluminar y cuestionar, debemos preguntarnos si estamos utilizando la IA para expandir nuestra humanidad o si, por el contrario, estamos delegando en ella lo que nos hace únicos: nuestra capacidad de razonar, imaginar y sentir.

En este contexto, quizás sea necesario volver a su legado. Hay que recordar que el progreso no puede separarse del humanismo,⁽²²⁾ y que cada avance tecnológico debe ir acompañado por un compromiso renovado con los valores que nos definen como seres humanos. En esta encrucijada, la IA no es solo una herramienta; es un espejo que refleja nuestras aspiraciones, nuestras dudas y, sobre todo, nuestra necesidad de reencontrarnos con lo esencial.

Por otro lado, el pragmatismo de Juan Luis Vives se centró en las necesidades humanas y puede servirnos para iluminar el uso ético de las tecnologías. Vives insistió en que el conocimiento debía estar al servicio de la sociedad y éste tenía que ser útil y aplicable para resolver problemas reales.⁽²³⁾ Esto podría traducirse en la necesidad de que la IA aborde desafíos globales como la salud, la desigualdad o el cambio climático en beneficio de toda la sociedad. Por ello, un principio clave de su filosofía era que existe una integración entre la ciencia y la ética imposible de separar. Además, existe otro binomio inamovible, que es fomentar la educación y el trabajo colaborativo. Esto, en tecnología, ha demostrado ser muy eficiente siempre que se ha compartido conocimiento o se han desarrollado tecnologías de manera colaborativa. Un ejemplo claro de esta integración entre ciencia y ética lo encontramos en el desarrollo de la IA aplicada a la salud. Modelos como AlphaFold, que predicen estructuras de proteínas con gran precisión, han sido liberados de forma abierta para que investigadores de todo el mundo puedan utilizarlos en la búsqueda de nuevos tratamientos.⁽²⁴⁾ Este enfoque no solo acelera el avance de la biomedicina, sino que también promueve una ciencia accesible y ética, alineada con el pensamiento de Vives. Un caso paradigmático es el del software de código abierto, como Linux, que ha sido desarrollado y mejorado por miles de programadores en todo el mundo. Su evolución demuestra que compartir conocimiento y fomentar la cooperación puede generar soluciones robustas y sostenibles.⁽²⁵⁾

Actualmente, en la era de la IA, la visión de Vives encuentra un paralelismo sorprendente. Así como él abogó por democratizar el acceso al conocimiento y adaptar la enseñanza a la realidad, las tecnologías digitales han roto barreras, permitiendo que información y herramientas antes inaccesibles estén al alcance de millones de personas en cualquier parte del mundo. Plataformas impulsadas por IA, desde asistentes virtuales hasta sistemas educativos personalizados, prometen revolucionar la forma en que aprendemos y resolvemos problemas. Sin embargo, ¿estamos utilizando estas herramientas para empoderar a las personas o para perpetuar desigualdades? ¿Cómo garantizamos que el conocimiento generado por la IA sea un medio para el bien común y no un recurso explotado por intereses particulares?

Vives defendió una educación centrada en la utilidad y el bienestar humano, una visión que resuena con los ideales más elevados de la IA: aumentar las capacidades humanas para resolver problemas complejos y mejorar la calidad de vida. Pero también nos recordó que el conocimiento sin ética puede ser un arma peligrosa. Del mismo modo, en estos momentos la IA debe ser guiada por principios que aseguren su uso responsable, evitando que se convierta en un instrumento de control o exclusión.

La obra de Vives nos invita a reflexionar sobre el propósito del progreso. Así como él insistió en que el aprendizaje debía estar al servicio de la humanidad, debemos preguntarnos si las tecnologías actuales que están cambiando nuestro mundo están alineadas con esa misma meta.

Tanto Erasmo como Vives comparten una visión humanista que prioriza la ética, la educación y la justicia social. Aplicar sus principios en el desarrollo y uso de la IA puede ayudar a garantizar que esta tecnología sirva para lograr que el ser humano sea el centro de toda actividad, y la defensa de la ética y la responsabilidad los ejes vertebradores de la sociedad.

Una mirada al futuro con perspectiva humanista

Tras observar los paralelismos entre los principios del humanismo renacentista y el momento actual, resulta evidente que estamos ante un punto de inflexión. Las reglas que han guiado nuestra relación con la tecnología desde la irrupción de internet comienzan a desdibujarse, dando paso a una nueva etapa aún difícil de comprender en toda su magnitud. Este cambio de paradigma genera incertidumbre, alimenta nuevas preguntas y nos sitúa frente a un horizonte cuyas consecuencias aún no alcanzamos a prever.

Son muchos los organismos internacionales que han puesto el foco en aplicar la ética y la responsabilidad social, velando por los derechos humanos para mejorar el desarrollo de la IA y las nuevas tecnologías, intentando fomentar la IA explicable y auditable para evitar la discriminación que ya se ha detectado que puede producir.⁽²⁶⁾

Organismos internacionales y expertos de diversos campos han encendido la alarma sobre la necesidad de incorporar la ética y la responsabilidad social en el desarrollo de la IA.⁽²⁷⁾ La idea no es nueva: ya Erasmo y Vives defendían que el conocimiento debía estar al servicio del bien común como hemos visto anteriormente. Hoy esto se traduce en esfuerzos por fomentar una IA explicable y auditable. El AI Now Institute, fundado en 2017 por Kate Crawford y Meredith Whittaker, es un referente en el análisis crítico de la IA. Sus investigaciones han evidenciado la falta de neutralidad en los algoritmos y cómo los sistemas de IA pueden reforzar desigualdades preexistentes.⁽²⁸⁾ A través de un enfoque interdisciplinario, desarrolla estrategias para mitigar estos impactos y fomentar la equidad en la implementación de tecnologías inteligentes.

Otra iniciativa relevante es el Data & Society Research Institute, que investiga el impacto del uso masivo de datos en la privacidad, la dignidad humana y la justicia social. Sus estudios han revelado los riesgos asociados con la vigilancia digital y la recopilación de datos personales, promoviendo un diseño tecnológico centrado en la protección de los derechos.⁽²⁹⁾

Por su parte, Open Ethics representa un modelo innovador de gobernanza tecnológica basado en la colaboración descentralizada. A diferencia de los enfoques tradicionales dominados por grandes corporaciones, esta plataforma fomenta la transparencia y la rendición de cuentas mediante un sistema de código abierto, permitiendo auditar y mejorar los principios éticos que guían la construcción de sistemas de IA.⁽³⁰⁾

Sin embargo, pensamos que aprender de los errores de la historia nos llevará a mitigar las consecuencias derivadas. Ahora estamos ante una oportunidad única de corregir el rumbo. Necesitamos acciones concretas que minimicen el impacto deshumanizador de la tecnología. La acción más importante sería el diseño de la IA centrada en el ser humano con la premisa fundamental de respetar y potenciar la dignidad humana. Con ello, el resto de acciones se alinearán naturalmente.

Necesitamos una reforma de los sistemas educativos para incluir la enseñanza de la ética en IA, fomentando el pensamiento crítico, la autonomía, la creatividad y la búsqueda del bienestar común. Del mismo modo que en el Renacimiento se redescubrieron los clásicos para formar ciudadanos ilustrados, hoy necesitamos una educación transversal y continua basada en el uso consciente y ético de la IA.

Al igual que en el Renacimiento el conocimiento se expandió más allá de las universidades y academias para influir en el arte, la política y la ciencia, hoy es imprescindible que la formación en el uso consciente de la IA llegue a todos los sectores.

Otra acción será exigir que la IA evolucione siempre hacia modelos auditables y explicables, evitando sesgos ocultos de los algoritmos que fomenten la injusticia o monopolios de información que puedan deshumanizar a nuestras sociedades.

En el Renacimiento, los avances científicos no solo fueron impulsados por filósofos y humanistas, sino también por matemáticos, arquitectos e inventores que aplicaron el conocimiento con una visión más amplia. Hoy necesitamos que los técnicos integren diversos perfiles complementarios.

Todo esto no podrá realizarse sin las adecuadas políticas y acciones legislativas que permitan garantizar a todos los niveles que la IA no sea un privilegio de grandes corporaciones o países más desarrollados.

Estamos en un momento de singularidad histórica, donde la IA tiene el potencial de transformar nuestras vidas de maneras inimaginables. Como en el Renacimiento, el desafío no es solo técnico, sino profundamente humano, para encontrar el equilibrio entre el progreso y los valores que nos definen como especie.

Reflexiones finales

Todo lo expuesto anteriormente nos invita a seguir buscando acciones concretas para evitar que la tecnología profundice desigualdades o erosione la dimensión humana de la atención sanitaria. Así como en el humanismo clásico se produjo un redescubrimiento del hombre hacia el antropocentrismo, dejando atrás la visión teocéntrica, el antropocentrismo moderno exige diseñar sistemas de salud donde la tecnología esté al servicio de las necesidades reales de las personas, no al revés.

El cambio de prisma que se produjo en el Renacimiento desde los dogmas religiosos y tradicionales hacia el desarrollo científico a partir del uso de la razón y el pensamiento crítico nos ofrece su equivalente actual. En este sentido, la razón crítica debería traducirse en una evaluación rigurosa de los impactos éticos de las innovaciones. ¿Cómo garantizamos que la IA no excluya a poblaciones vulnerables? ¿Qué mecanismos de transparencia son necesarios para que pacientes y profesionales confíen —y comprendan— en las decisiones mediadas por IA? Aquí, el método científico renacentista encuentra su equivalente moderno en la medicina basada en evidencia, complementada con humanidades que integren perspectivas éticas, sociológicas y filosóficas.

Y del mismo modo que la educación fuera de los monasterios y el impulso de la enseñanza de las humanidades fueron factores decisivos para la formación de ciudadanos cultos, la educación adquiere una dimensión dual en el siglo XXI. Por un lado, el desarrollo de competencias digitales por los profesionales, que les permita navegar por las diferentes tecnologías sin perder de vista su rol como cuidadores. Por otro, educar a una ciudadanía crítica que pueda participar activamente en su salud a través de herramientas digitales, comprendiendo sus riesgos y beneficios.

No podemos olvidar el papel tractor que han tenido diversas tecnologías a lo largo de la historia. Lo fue la imprenta en su día, impulsando de forma definitiva la difusión del conocimiento, y más recientemente la aparición de tecnologías digitales, especialmente internet y la IA. El éxito de la innovación tecnológica actual dependerá en gran parte de que estas herramientas se implementen con equidad, evitando que las diferentes brechas excluyan a aquellas personas que más se podrían beneficiar.⁽³¹⁾

El paralelo entre ambos humanismos -el renacentista y el digital- revela una lección atemporal: todo avance técnico exige un progreso paralelo en conciencia ética. Así como Erasmo de Róterdam defendió la educación como herramienta de liberación, hoy necesitamos "humanistas digitales" que aboguen por tecnologías que dignifiquen, no que alienen. La sanidad del futuro solo será sostenible si logra sintetizar el rigor de los datos con la calidez de un gesto humano, recordando que, tras cada algoritmo, hay un ser vulnerable que busca no solo curación, sino también cuidado y consuelo.

La filosofía renacentista nos recuerda que el verdadero progreso no se mide únicamente en avances técnicos, sino en cómo estos elevan nuestra capacidad de conectar, comprender y cuidarnos unos a los otros. La tecnología, en manos de una sociedad ética y críticamente educada, podría ser el puente hacia un nuevo Renacimiento en salud: uno donde la IA y la inteligencia emocional coexistan, reforzando —nunca reemplazando— el arte milenario de cuidar y sanar.