Serviços customizados
Espanhol (pdf)
Artigo em XML
Referências do artigo
Tradução automática
Enviar este artigo por email
Citado por SciELO 
Citado por Google 
Similares em
SciELO 
Similares em Google 
Permalink
INTRODUCCIÓN
La inteligencia artificial (IA) es la tecnología digital que mayor efecto transformador está generando actualmente en el mundo.
Se define como el campo de conocimiento que estudia la capacidad de los ordenadores para realizar tareas que normalmente requerirían inteligencia humana, como el aprendizaje, el pensamiento crítico, la toma de decisiones y el procesamiento del lenguaje natural1.
Durante décadas se ha investigado su uso y aplicaciones en diferentes sectores productivos y áreas de conocimiento, con un éxito e impacto social limitado.
No obstante, ha sido en los últimos años cuando la IA ha tenido un desarrollo singular.
Factores como el crecimiento en la capacidad de computación de los ordenadores, el aumento de la accesibilidad y disponibilidad de la información en formato digital y avances tecnológicos en áreas como el aprendizaje automático o el reconocimiento de texto, imágenes, voces y sonidos han permitido crear un caldo de cultivo perfecto para el desarrollo de esta tecnología.
Entre los diferentes modelos de inteligencia artificial que existen, en los últimos años han ganado popularidad los llamados Modelos de Lenguaje Generativo (MLG), los cuales son un tipo de modelo de IA que utiliza técnicas algorítmicas para procesar el lenguaje natural y generar secuencias de palabras coherentes y naturalmente similares al lenguaje humano. Estos modelos utilizan concretamente técnicas de aprendizaje automático profundo (deep learning) para estimar la probabilidad de que una determinada secuencia de palabras aparezca en un texto.
Básicamente, el funcionamiento de estos MLG (Tabla 1) se basan en la introducción por parte del humano de una instrucción de texto (ya sea una frase, unas palabras, comandos o párrafos enteros) para que genere un resultado esperado en un determinado formato. A estas instrucciones se las conoce como “prompts”.
Entre ellos, el primero fue ChatGPT (Chat Generative Pretrained Transformer), cuya aplicación web está disponible en la URL https://chat.openai.com, creado por la compañía OpenAI y lanzado el 30 de Septiembre de 2022, llegando a más de 100 millones de usuarios tan sólo 2 meses después de su publicación en abierto, lo cual la convierte en la plataforma digital que más rápido crecimiento de usuarios ha tenido en la historia.
La evolución de esta tecnología en el ámbito del procesamiento del lenguaje natural ha permitido a ChatGPT desarrollar una gran capacidad para responder satisfactoriamente ante instrucciones complejas y mantener un diálogo con un ser humano con una elevada elocuencia, lo cual ha sido un auténtico cambio de paradigma.
Adicionalmente, este sistema es capaz de producir multitud de tipos de textos, dar respuestas convincentes a correos electrónicos, generar y revisar código informático e incluso responder de manera acertada al 51,4% de las preguntas del examen MIR 2022, el equivalente a una nota de corte de 69,33 respuestas netas, lo cual implica una posible elección entre una de las 8550 plazas ofertadas en la mencionada convocatoria2.
La gran popularidad de esta tecnología ha permitido que se exploren sus utilidades en multitud de sectores, incluído el sanitario y el científico, abriendo todo tipo de debates donde friccionan la ética, la legislación, y la innovación digital.
Se han identificado cuatro dimensiones clave dentro de la asistencia sanitaria en las que la inteligencia artificial generativa podría resultar potencialmente útil: la atención al paciente, el conocimiento biomédico, la investigación clínica y la gestión administrativa.
CHAT GPT Y ¿FARMACIA HOSPITALARIA?
La farmacia hospitalaria es una especialidad en la que convergen diferentes dimensiones profesionales, como la atención farmacéutica a los pacientes, la gestión clínica del medicamento, la evaluación farmacoeconómica, la investigación, etc.
Todas ellas están relacionadas con la toma de decisiones basadas en datos complejos o la automatización de procesos logísticos. Por ello, se postula que los nuevos modelos de lenguaje generativos tienen múltiples potenciales aplicaciones para la Farmacia Hospitalaria, tanto en el ámbito asistencial como en el logístico, el docente o el investigador.
Por ejemplo, ChatGPT se podría utilizar para analizar datos de prescripción y de la historia clínica electrónica de un paciente y generar informes farmacéuticos detallados con recomendaciones terapéuticas y/o higiénico-dietéticas.
Es sabido que la IA podría utilizarse para la predicción y diagnóstico temprano de patologías. Por tanto, y debido a que la IA puede procesar y analizar información relacionada con medicamentos, también se han propuesto los MLG como herramientas de soporte para la detección de eventos adversos producidos por los medicamentos, por lo que potencialmente también tiene el poder de detectar interacciones medicamentosas (y proponer alternativas personalizadas) y de anticipar posibles reacciones adversas en un paciente determinado. Por tanto, ChatGPT y el resto de modelos podrían actuar como un asistente virtual farmacéutico.
Además de lo anterior, la aplicación de ChatGPT adaptada como asistente conversacional (chatbot) podría ser muy valiosa en la atención sanitaria al proporcionar respuestas inmediatas a los pacientes y satisfacer sus necesidades informativas. También podría ofrecer recomendaciones personalizadas basadas en las preferencias y algunos datos de los pacientes, como valores analíticos de laboratorio y tratamientos farmacológicos, fomentando así la medicina personalizada.
De la misma manera que ChatGPT ha sido utilizado para generar informes médicos3, ésta tecnología podría ser utilizada en la elaboración de informes farmacoterapéuticos en comisiones de farmacia o a nivel hospitalario para la aprobación individualizada de un medicamento de alto impacto.
Otro ejemplo sería la utilización de esta herramienta para agilizar procesos administrativos relacionados con la gestión de citas de pacientes en consultas, la identificación y segmentación de pacientes con necesidades prioritarias y la realización de tareas repetitivas.
Más allá de usos prácticos del día a día para el farmacéutico hospitalario, ChatGPT puede ser una herramienta extremadamente útil en la química y biología computacional y el descubrimiento de nuevos fármacos, ya que puede facilitar la identificación y validación de nuevas dianas farmacológicas, el diseño de nuevos fármacos, la optimización de las propiedades de los fármacos, la evaluación de su toxicidad y la reutilización de fármacos en otras patologías4.
En un futuro próximo, el uso de la inteligencia artificial (IA) en aplicaciones y software será tan común que dejará de ser un tema novedoso como lo es en la actualidad. De hecho, se estima que según avance la transformación digital la integración de la IA será cada vez más ubicua, quedando obsoletos aquellos programas informáticos, plataformas y sistemas de información que no hagan uso de esta tecnología para mejorar su desempeño y ofrecer un mejor servicio a sus usuarios.
Si confiamos en que se cumpla este pronóstico, podemos adelantar que tarde o temprano muchos de los procesos que se realizan dentro de una farmacia hospitalaria serán asistidos, mejorados o potenciados con software que incluya algún modelo de inteligencia artificial, ya que cada vez éstos serán más coherentes y fiables en el entorno sanitario gracias a su entrenamiento y validación con información específica.
Es evidente que la IA ofrece una amplia variedad de beneficios y oportunidades en cuanto a la optimización de procesos y la toma de decisiones en diversas áreas, incluyendo el sector de la salud. Por lo tanto, resulta fundamental para cualquier organización (incluídos servicios de farmacia hospitalaria) que aspire a mantenerse competitiva y relevante en un entorno cada vez más digitalizado, considerar la integración de la IA como parte de su estrategia tecnológica.
Actualmente estos modelos de IA se encuentran en un estado prematuro de desarrollo, por lo que no es posible prever cómo pueden afectar los avances y la integración de esta tecnología en el ámbito sanitario. Aún así, a continuación se muestran algunos potenciales usos y aplicaciones de ChatGPT en la farmacia hospitalaria:
Asistente virtual para pacientes: Para responder preguntas habituales clínicas o logísticas, realizar triaje farmacéutico básico y fomentar la educación sanitaria a través de recomendaciones y consejos personalizados según el historial del paciente5.
Herramienta de salud móvil inteligente para pacientes: ChatGPT podría actuar como un sistema experto de soporte farmacéutico para el seguimiento continuado (durante 24 horas los 365 días del año) a pacientes específicos con enfermedades crónicas. A través de mensajería instantánea podría también comportarse como un sistema para el reporte de resultados de salud de los pacientes o para la mejora de adherencia terapéutica.
Asistente personal farmacéutico para consultar información sobre medicamentos, guías clínicas y algoritmos de tratamientos farmacológicos en pacientes determinados y así optimizar el soporte a las decisiones clínicas a través de la elaboración de propuestas de planes de tratamiento personalizados y alertas inteligentes6.
Complemento de la Historia Clínica Electrónica o de software farmacéutico7,8: Ayuda en la optimización de procesos clínicos farmacéuticos, como la predicción de efectos adversos de medicamentos, la detección de potenciales interacciones farmacológicas o la monitorización farmacocinética.
Sistema de apoyo en el proceso de investigación y publicación científica: Puede actuar como un buscador de literatura científica, asistente de lectura, de ideación, redacción y corrección de artículos científicos, además de analista experto en datos estadísticos y metodología de investigación9.
Herramienta docente de soporte en la Formación Sanitaria Especializada de residentes de Farmacia Hospitalaria, incluyendo la generación de simulaciones de casos clínicos prácticos al poder desde chatGPT generar pacientes virtuales10.
Sistema inteligente para el análisis de grandes datos de vida real, extracción de tendencias y nuevo conocimiento, y apoyo en su interpretación para la toma de decisiones farmacéuticas.
Experto de gestión clínica, tanto en la compra de medicamentos como en optimización de la calidad asistencial (seguridad clínica, eficiencia logística, etc.).
Gestor administrativo inteligente: La inclusión de sistemas de inteligencia artificial en procesos repetitivos o bajo valor clínico (elaboración de informes clínicos, gestión documental u otras tareas automatizables) permitirían a profesionales sanitarios disponer de más tiempo para realizar tareas en las que se requiera un profesional sanitario especializado.
LIMITACIONES, RIESGOS Y CUESTIONES ÉTICAS RESPECTO AL USO DE CHATGPT
Como se ha mencionado anteriormente, el uso de la IA generativa tiene un gran potencial para mejorar determinados procesos dentro de la asistencia sanitaria y la investigación científica. Sin embargo, no se puede ignorar que también existen grandes limitaciones, desafíos de todo tipo (sociales, educativos, tecnológicos, políticos, legislativos, etc.) y riesgos en su aplicación, incluído en el campo de la farmacia hospitalaria 11,12.
Se han identificado diferentes limitaciones con este tipo de herramientas de inteligencia artificial que conviene conocer. Algunas de las más importantes son:
Parámetros de ChatGPT y su conexión a internet: El entrenamiento de ChatGPT se realizó con contenido web, libros y artículos científicos en abierto hasta 2021. Además de esto, por ahora no está conectado a internet (otros modelos sí lo están).
Datos de entrenamiento en ambiente sanitario: No ha sido entrenado con conocimiento sanitario especializado por lo que es evidente que dispone de una capacidad limitada para entender y responder preguntas sobre salud específicas o proporcionar consejos precisos relacionados con condiciones médicas. Esto implica que si no eres experto en el área en cuestión puede llevarte a conclusiones incorrectas.
Cognición:El resultado de sus respuestas sofisticadas es resultado del conocimiento estadístico del modelo, pero carece de entendimiento profundo y de capacidad de pensamiento crítico.
Calidad de los datos: Las respuestas dependen de que los datos introducidos sean coherentes, fiables, precisos y actualizados, si ocurre como el escenario sanitario, donde la limitación de datos es evidente, no será capaz de responder o lo hará de manera poco fiable o inexacta.
Evaluación del modelo: No tiene capacidad para autoevaluarse por sí mismo y detectar así datos falsos, inapropiados o erróneos.
En la actualidad, las aplicaciones de IA generativa disponibles para el público son versiones preliminares en fase beta. De hecho, es importante señalar que antes de interactuar con ellas, los usuarios son advertidos explícitamente acerca de la posibilidad de que dichas aplicaciones generen información incorrecta o sesgada, así como la eventualidad de que proporcionen instrucciones dañinas.
Tan importante resulta esta cuestión, que debido a ello y al potencial de impacto global de estas nuevas tecnologías, se ha propiciado la publicación de una carta abierta 13 escrita por más de mil personalidades tecnológicas y expertos en IA solicitando una pausa temporal en el desarrollo de los MLG para poder estudiar y analizar en conjunto las implicaciones de esta tecnología en el mundo.
Entre los riesgos más importantes que encontramos con el uso de ChatGPT en el entorno sanitario y científico, se encuentran:
ChatGPT proporciona datos incorrectos, omite información relevante y puede ofrecer información inexistente: Se ha demostrado que ChatGPT es capaz de responder a preguntas de una forma falsa o parcialmente incorrecta de una forma muy convincente y, por ejemplo, de citar referencias de artículos científicos que no existen. Además, al pedirle resúmenes clínicos puede omitir información relevante. También a la hora de realizar análisis de datos puede ofrecer resumen o análisis descriptivos de variables inexistentes.
Existen problemas de fiabilidad y reproducibilidad: Cuando se plantea la misma pregunta varias veces al ser un algoritmo de probabilidad te devolverá versiones diferentes de respuestas erróneas, corregidas o mejoradas.
Privacidad y confidencialidad de los datos sanitarios de los pacientes: Uno de los desafíos más evidentes del uso de estas herramientas es la necesidad de proteger la privacidad y la confidencialidad de los datos de los pacientes. El uso de datos de pacientes para entrenar algoritmos de IA o responder cuestiones clínicas debe cumplir con los estándares éticos y legales de privacidad y protección de datos. Actualmente ChatGPT no cumple con las normas HIPAA (Health Insurance Portability and Accountability Act) estadounidenses, y en países europeos como Italia ha sido suspendido su uso por infringir su normativa de protección de datos.
Respuestas sesgadas y/o estereotipos: Otro riesgo potencial es la aparición de sesgos y discriminación en los algoritmos de IA generativa utilizados en la atención sanitaria. Es esencial garantizar que los datos utilizados para entrenar a los algoritmos sean representativos de la población a la que se destinan a servir. De lo contrario, pueden surgir diagnósticos o planes de tratamiento inexactos e injustos para determinados grupos.
Controversias éticas en la autoría de textos científicos 14: Ya existen ciertas consideraciones éticas asociadas al uso de la IA generativa dentro del sector de la publicación científica. Es necesario para todos los científicos considerar el impacto en la calidad del contenido académico que se genera a través de estas herramientas, y garantizar que se sigan ciertas prácticas éticas y responsables en el desarrollo y aplicación de la tecnología. Tanto es así, que Elsevier ha introducido una nueva política sobre el uso de IA y tecnologías asistidas por IA en la redacción científica, estipulando que su uso debe limitarse a mejorar la legibilidad y el lenguaje del trabajo, debiendo además declararse en el manuscrito. Además, se recomienda a los autores que realicen verificaciones manuales de cualquier resultado generado por IA.
Por último, es destacable resaltar que estas herramientas no deben figurar ni citarse como autor o coautor, ya que no pueden asumir las responsabilidades que conlleva la autoría.
Uso indebido y exceso de confianza: Si no se utilizan correctamente, los algoritmos pueden conducir a decisiones médicas incorrectas o perjudiciales. Además, puede haber una pérdida de capacidad para emitir juicios independientes por parte de los proveedores de atención médica si se vuelven demasiado dependientes de la IA generativa.
CONCLUSIONES
Los modelos generativos de inteligencia artificial han irrumpido con mucha fuerza a nivel global y parece que han llegado para quedarse.
No obstante, la absorción de innovaciones tecnológicas tan disruptivas como la IA generativa en entornos sanitarios es una compleja encrucijada muy difícil de resolver y de gestionar a corto plazo, ya que aunque los posibles beneficios de la integración de dicha tecnología son claros, se exponen vidas humanas a riesgos aún desconocidos.
Por tanto, debe imperar un principio de prudencia cuando hablamos de utilizar estas tecnologías con pacientes en la vida real.
Es evidente que la IA generativa se integrará cada vez más en las interacciones tecnológicas diarias del farmacéutico hospitalario, incluída la asistencia sanitaria directa a los pacientes.
Adquirir conocimientos y habilidades prácticas relacionadas con este tipo de modelos de IA permitirá a los farmacéuticos de hospital ser cada vez más competentes en este ámbito y potenciar la investigación y desarrollo de soluciones inteligentes de salud digital para resolver los problemas actuales de los pacientes y de la farmacia hospitalaria.
La IA ya no es una tecnología futurista. Ya está aquí, es accesible para nuestros pacientes y nos afecta a todos.
Por eso, en lugar de preguntarnos si utilizaremos la IA o no en las farmacias hospitalarias, deberíamos enfocarnos en responder a la pregunta ¿Cómo utilizaremos la IA de una forma responsable, segura y que mejore los resultados en salud de nuestros pacientes?.
