SciELO - Scientific Electronic Library Online

 
vol.37Por una moratoria en la concesión de nuevas licencias para puntos de venta de tabacoGestación subrogada: otra vuelta de tuerca a la desigualdad de género índice de autoresíndice de materiabúsqueda de artículos
Home Pagelista alfabética de revistas  

Servicios Personalizados

Revista

Articulo

Indicadores

Links relacionados

  • En proceso de indezaciónCitado por Google
  • No hay articulos similaresSimilares en SciELO
  • En proceso de indezaciónSimilares en Google

Compartir


Gaceta Sanitaria

versión impresa ISSN 0213-9111

Gac Sanit vol.37  Barcelona  2023  Epub 01-Nov-2024

https://dx.doi.org/10.1016/j.gaceta.2023.102315 

Cartas al Director

Retos y desafíos de la inteligencia artificial en la investigación en salud

Challenges and obstacles of artificial intelligence in health research

Brenda Biaani León-Gómeza  b  *  , concibió la carta, realizó el análisis, generó el primer borrador, contribuyó a interpretar los datos y editar el manuscrito para llegar a la versión final; Eduard Moreno-Gabriela  c  d  , contribuyó a interpretar los datos y editar el manuscrito para llegar a la versión final; Lucía A Carrasco-Ribellesa  e  f  , contribuyó a interpretar los datos y editar el manuscrito para llegar a la versión final; Concepció Violán-Forsa  b  d  , contribuyó a interpretar los datos y editar el manuscrito para llegar a la versión final; Liudmila Liutskoa  , contribuyó a interpretar los datos y editar el manuscrito para llegar a la versión final

aUnitat de Suport a la Recerca Metropolitana Nord, Fundació Institut Universitari per a la recerca a l'Atenció Primària de Salut Jordi Gol i Gurina (IDIAPJGol), Mataró, Barcelona, España

bInstitut Català de la Salut, Mataró, Barcelona, España

cDepartament de Psicologia Social, Universitat Autònoma de Barcelona, Bellaterra (Cerdanyola del Vallès), Barcelona, España

dGerman Trias i Pujol Health Sciences Research Institute Foundation (IGTP), Badalona, Barcelona, España

eFundació Institut Universitari per a la recerca a l'Atenció Primària de Salut Jordi Gol i Gurina (IDIAPJGol), Barcelona, España

fDepartamento de Teoría de la Señal y Comunicaciones, Universitat Politècnica de Catalunya (UPC), Barcelona, España

Sr. Director:

La inteligencia artificial (IA) ha experimentado un rápido crecimiento desde sus inicios en los años 1950. McCarthy1 la considera como una disciplina que combina la informática y los datos robustos para la resolución de problemas. Esta disciplina estudia el diseño de agentes inteligentes capaces de percibir su entorno y tomar acciones que maximizan sus posibilidades de éxito para realizar una tarea asignada. Actualmente, la digitalización de la mayoría de los aspectos de la actividad ha generado enormes cantidades de datos que han permitido entrenar algoritmos con el fin de realizar múltiples tareas. Este hecho, en conjunto con el aumento exponencial del poder computacional, está impulsando la adopción generalizada de la IA en diversas áreas, incluida la salud, para realizar diagnósticos por imagen o apoyar como herramientas terapéuticas en diferentes ámbitos, como por ejemplo la salud mental, entre otras múltiples funciones.

Con la llegada y la difusión mediática de los Generative Pre-trained Transformers (modelos GTP) ha comenzado la adopción generalizada de esta tecnología a través de CHATGTP2. Estos modelos cuentan con una amplia capacidad de resolución de múltiples problemas del día a día en la vida de las personas, y por ello existe una amplia variedad utilidades para ellos. Por ejemplo, el modelo GTP-3 de Open AI ha sido capaz de pasar el examen de Licencia Médica de los Estados Unidos3. A partir de GTP-3 surgen cada día muchas opciones de aplicaciones en el mercado digital. Es por ello que hoy se comienzan a plantear y definir los futuros usos de esta tecnología en nuestra vida cotidiana, y es ahora cuando tenemos que plantearnos los retos que se presentarán en todas las áreas de aplicación, incluyendo la salud pública. Además, estas tecnologías que replican, superan o aumentan las capacidades humanas están transformando múltiples aspectos de nuestras vidas y podrían afectar el bienestar. A medida que nos adentramos en la era de la IA se multiplican sus utilidades, pero también crecen los desafíos globales que plantea la IA en ámbitos como la salud, y deviene cada vez más urgente analizarlos.

La investigación en salud debe anticiparse a algunos de estos debates emergentes que deben ser abordados de forma interdisciplinaria (apoyados en la sociología, la ética, el derecho, la bioingeniería, las políticas públicas, etc.). Esto es esencial para abordar tales desafíos y garantizar la idónea utilización de la IA en todas áreas, incluyendo la salud. Sin embargo, desde las distintas posiciones podemos empezar a discutir qué retos se le plantean a una agenda de investigación que promueva el desarrollo responsable, sostenible, ético y centrado en el ser humano tomando en cuenta la salud como área de contacto humano4.

Desde nuestro lugar en la investigación en atención primaria y la salud pública queremos aportar al debate los que consideramos los principales retos a los que potencialmente nos enfrentaremos (Tabla 1).

Tabla 1. Retos y desafíos de la inteligencia artificial en la investigación y la atención médica. 

Retos Características Descripción de problemas asociados
Protección de datos y ciberseguridad Privacidad Es crucial garantizar la confidencialidad, la integridad y la disponibilidad de datos personales y de salud, cumpliendo con regulaciones locales e internacionales de privacidad. Además, es imprescindible proteger los datos y los sistemas de salud de potenciales ciberataques y violaciones de datos
Seguridad de datos
Ciberseguridad
Ética Toma de decisiones transparentes (como la publicidad de pago o la forma de selección de los resultados en motores de búsqueda enriquecidos con IA, etc.) Es necesario garantizar que las decisiones de IA en la atención médica y en la investigación asociada sean éticas y transparentes. Esto implica abordar sesgos en datos y algoritmos, garantizar la equidad de acceso y evitar la discriminación. Asimismo, se debe establecer un marco legal y regulatorio para asegurar el uso seguro y ético de la IA y las tecnologías digitales en la atención médica
Aspectos legales y regulatorios
Calidad y eficacia de la IA en la atención médica Calidad y precisión de los datos Es fundamental asegurar la precisión de la información proporcionada por la IA, maximizar los beneficios de la IA en atención médica e investigación a través de la interoperabilidad y la estandarización de protocolos y formatos de datos. Además, se deben establecer procesos rigurosos para evaluar y validar algoritmos y sistemas de IA antes de su implementación en entornos clínicos o de investigación
Calidad y precisión del modelo
Interoperabilidad
Estandarización
Evaluación de algoritmos
Fuerza laboral y organizativa, adaptación al cambio Competencias del personal Hay que desarrollar una fuerza laboral capacitada y competente para adoptar tecnologías de IA en atención médica, invertir en capacitación y educación continua, abordar cambios en responsabilidades laborales y aparición de nuevos roles laborales. También se deben abordar los cambios organizativos significativos requeridos para la integración de la IA en la atención médica y actualizar la infraestructura tecnológica, además de abordar la resistencia al cambio en profesionales de la salud y usuarios
Capacitación
Responsabilidades laborales
Nuevas oportunidades laborales
Reestructuración organizativa
Resistencia al cambio
Acceso, equidad y colaboración humano-máquina Acceso a la atención médica Es esencial asegurar que la digitalización y la IA mejoren el acceso a la atención médica sin aumentar las desigualdades, beneficiando a poblaciones vulnerables y desatendidas. Asimismo, es clave fomentar una colaboración efectiva entre profesionales de la salud y sistemas de IA para obtener mejores resultados en los usuarios
Equidad
Colaboración humano-IA
Desafíos emergentes y problemas futuros Nuevas enfermedades y condiciones médicas Es esencial aprovechar el potencial de la IA para revelar patrones y conexiones previamente desconocidos en datos, llevando al descubrimiento de nuevas enfermedades y condiciones médicas, mejorando la detección temprana de brotes y la monitorización de enfermedades, todo ello garantizando la precisión, la confiabilidad y un uso ético
Detección y respuesta pandémica

IA: inteligencia artificial.

Bibliografía

1. McCarthy J. Reminiscences on the history of time-sharing. IEEE Ann Hist Comput. 1992;14:19-24. [ Links ]

2. Gilson A, Safranek CW, Huang T, et al. How does ChatGPT perform on the United States Medical Licensing Examination? The implications of large language models for medical education and knowledge assessment. JMIR Med Educ. 2023;9:e45312. [ Links ]

3. OpenAI. ChatGPT-4 [Internet]. 2023. Disponible en: https://www.openai.com. [ Links ]

4. Ozmen Garibay O, Winslow B, Andolina S, et al. Six human-centered artificial intelligence grand challenges. Int J Hum Comput Interact. 2023;39:391-437. [ Links ]

FinanciaciónLACR tiene una beca del Instituto de Salud Carlos III - FI20/00040.

* Autor para correspondencia. Correos electrónicos: bblego@gmail.com, bleongo.mn.ics@gencat.cat (B.B. León-Gómez).

Conflicto de intereses

Ninguno.

Contribuciones de autoría

La carta ha sido elaborada por las autoras y el autor basándose en aspectos de la cotidianidad como profesionales y las reflexiones y análisis realizadas en el contexto de la presentación el pasado abril de un proyecto europeo de IA y salud.

Creative Commons License Este es un artículo publicado en acceso abierto bajo una licencia Creative Commons