Sr. Director:
La inteligencia artificial (IA) ha experimentado un rápido crecimiento desde sus inicios en los años 1950. McCarthy1 la considera como una disciplina que combina la informática y los datos robustos para la resolución de problemas. Esta disciplina estudia el diseño de agentes inteligentes capaces de percibir su entorno y tomar acciones que maximizan sus posibilidades de éxito para realizar una tarea asignada. Actualmente, la digitalización de la mayoría de los aspectos de la actividad ha generado enormes cantidades de datos que han permitido entrenar algoritmos con el fin de realizar múltiples tareas. Este hecho, en conjunto con el aumento exponencial del poder computacional, está impulsando la adopción generalizada de la IA en diversas áreas, incluida la salud, para realizar diagnósticos por imagen o apoyar como herramientas terapéuticas en diferentes ámbitos, como por ejemplo la salud mental, entre otras múltiples funciones.
Con la llegada y la difusión mediática de los Generative Pre-trained Transformers (modelos GTP) ha comenzado la adopción generalizada de esta tecnología a través de CHATGTP2. Estos modelos cuentan con una amplia capacidad de resolución de múltiples problemas del día a día en la vida de las personas, y por ello existe una amplia variedad utilidades para ellos. Por ejemplo, el modelo GTP-3 de Open AI ha sido capaz de pasar el examen de Licencia Médica de los Estados Unidos3. A partir de GTP-3 surgen cada día muchas opciones de aplicaciones en el mercado digital. Es por ello que hoy se comienzan a plantear y definir los futuros usos de esta tecnología en nuestra vida cotidiana, y es ahora cuando tenemos que plantearnos los retos que se presentarán en todas las áreas de aplicación, incluyendo la salud pública. Además, estas tecnologías que replican, superan o aumentan las capacidades humanas están transformando múltiples aspectos de nuestras vidas y podrían afectar el bienestar. A medida que nos adentramos en la era de la IA se multiplican sus utilidades, pero también crecen los desafíos globales que plantea la IA en ámbitos como la salud, y deviene cada vez más urgente analizarlos.
La investigación en salud debe anticiparse a algunos de estos debates emergentes que deben ser abordados de forma interdisciplinaria (apoyados en la sociología, la ética, el derecho, la bioingeniería, las políticas públicas, etc.). Esto es esencial para abordar tales desafíos y garantizar la idónea utilización de la IA en todas áreas, incluyendo la salud. Sin embargo, desde las distintas posiciones podemos empezar a discutir qué retos se le plantean a una agenda de investigación que promueva el desarrollo responsable, sostenible, ético y centrado en el ser humano tomando en cuenta la salud como área de contacto humano4.
Desde nuestro lugar en la investigación en atención primaria y la salud pública queremos aportar al debate los que consideramos los principales retos a los que potencialmente nos enfrentaremos (Tabla 1).
Retos | Características | Descripción de problemas asociados |
---|---|---|
Protección de datos y ciberseguridad | Privacidad | Es crucial garantizar la confidencialidad, la integridad y la disponibilidad de datos personales y de salud, cumpliendo con regulaciones locales e internacionales de privacidad. Además, es imprescindible proteger los datos y los sistemas de salud de potenciales ciberataques y violaciones de datos |
Seguridad de datos | ||
Ciberseguridad | ||
Ética | Toma de decisiones transparentes (como la publicidad de pago o la forma de selección de los resultados en motores de búsqueda enriquecidos con IA, etc.) | Es necesario garantizar que las decisiones de IA en la atención médica y en la investigación asociada sean éticas y transparentes. Esto implica abordar sesgos en datos y algoritmos, garantizar la equidad de acceso y evitar la discriminación. Asimismo, se debe establecer un marco legal y regulatorio para asegurar el uso seguro y ético de la IA y las tecnologías digitales en la atención médica |
Aspectos legales y regulatorios | ||
Calidad y eficacia de la IA en la atención médica | Calidad y precisión de los datos | Es fundamental asegurar la precisión de la información proporcionada por la IA, maximizar los beneficios de la IA en atención médica e investigación a través de la interoperabilidad y la estandarización de protocolos y formatos de datos. Además, se deben establecer procesos rigurosos para evaluar y validar algoritmos y sistemas de IA antes de su implementación en entornos clínicos o de investigación |
Calidad y precisión del modelo | ||
Interoperabilidad | ||
Estandarización | ||
Evaluación de algoritmos | ||
Fuerza laboral y organizativa, adaptación al cambio | Competencias del personal | Hay que desarrollar una fuerza laboral capacitada y competente para adoptar tecnologías de IA en atención médica, invertir en capacitación y educación continua, abordar cambios en responsabilidades laborales y aparición de nuevos roles laborales. También se deben abordar los cambios organizativos significativos requeridos para la integración de la IA en la atención médica y actualizar la infraestructura tecnológica, además de abordar la resistencia al cambio en profesionales de la salud y usuarios |
Capacitación | ||
Responsabilidades laborales | ||
Nuevas oportunidades laborales | ||
Reestructuración organizativa | ||
Resistencia al cambio | ||
Acceso, equidad y colaboración humano-máquina | Acceso a la atención médica | Es esencial asegurar que la digitalización y la IA mejoren el acceso a la atención médica sin aumentar las desigualdades, beneficiando a poblaciones vulnerables y desatendidas. Asimismo, es clave fomentar una colaboración efectiva entre profesionales de la salud y sistemas de IA para obtener mejores resultados en los usuarios |
Equidad | ||
Colaboración humano-IA | ||
Desafíos emergentes y problemas futuros | Nuevas enfermedades y condiciones médicas | Es esencial aprovechar el potencial de la IA para revelar patrones y conexiones previamente desconocidos en datos, llevando al descubrimiento de nuevas enfermedades y condiciones médicas, mejorando la detección temprana de brotes y la monitorización de enfermedades, todo ello garantizando la precisión, la confiabilidad y un uso ético |
Detección y respuesta pandémica |
IA: inteligencia artificial.