SciELO - Scientific Electronic Library Online

 
 número57Ética de los sentimientos, desarrollo de capacidades, memoria histórica y reconciliación: la fragilidad del personal de salud en el conflicto armado colombianoConsumo y producción responsable en el antropoceno: ética animal y los objetivos de desarrollo sostenible índice de autoresíndice de materiabúsqueda de artículos
Home Pagelista alfabética de revistas  

Servicios Personalizados

Revista

Articulo

Indicadores

Links relacionados

  • En proceso de indezaciónCitado por Google
  • No hay articulos similaresSimilares en SciELO
  • En proceso de indezaciónSimilares en Google

Compartir


Revista de Bioética y Derecho

versión On-line ISSN 1886-5887

Rev. Bioética y Derecho  no.57 Barcelona  2023  Epub 24-Jul-2023

https://dx.doi.org/10.1344/rbd2023.57.35146 

SECCIÓN GENERAL

Aspectos bioéticos da utilização de sistemas de inteligência artificial no campo da saúde: um estudo exploratório

Aspectes bioètics de l'ús de sistemes d'intel·ligència artificial en el camp de la salut: un estudi exploratory

Aspectos bioéticos del uso de sistemas de inteligencia artificial en el campo de la salud: un estudio exploratorio

Bioethics issues related to artificial intelligence in health: an exploratory study

Evelise S Duarte (orcid: 0000-0002-9345-1470)1  , Fagner Sutel-de Moura (orcid: 0000-0002-5721-4005)2  , Leonardo Pestillo-de Oliveira (orcid: 0000-0001-5278-0676)3  , Lucas França-Garcia (orcid: 0000-0002-5815-6150)4 

*Mestre em Promoção da Saúde pela Universidade Cesumar (UniCesumar). Brazil

*Cientista Social. Especialista em Ciências de Dados. Universidade Cesumar (UniCesumar). Brazil

*Psicólogo, Doutor em Psicologia pela PUC/SP. Professor do Programa de Pós-Graduação em Promoção da Saúde da UniCesumar. Bolsista de Produtividade do Instituto Cesumar de Ciência, Tecnologia e Inovação (ICETI-UniCesumar). Brazil

*Cientista Social. Doutor em Medicina: Ciências Médicas pela Universidade Federal do Rio Grande do Sul. Professor do Programa de Pós-Graduação em Promoção da Saúde da UniCesumar. Bolsista de Produtividade do Instituto Cesumar de Ciência, Tecnologia e Inovação (ICETI-UniCesumar). Brazil

Resumo

Objetivo:

analisar a percepção de usuários de redes sociais a respeito da utilização de sistemas de IA no campo da saúde e os aspectos bioéticos associados a essa utilização.

Método:

Estudo de método mistos, do tipo descritivo-exploratório. O percurso metodológico foi dividido em duas etapas: (1) levantamento de informação a respeito dos principais aspectos bioéticos envolvidos na utilização de IA e (2) elaboração dos cenários de tomada de decisão. Os dados quantitativos foram analisados por meio de estatística descritiva a fim de caracterizar a amostra do ponto de vista sociodemográfico, bem como caracterizar o perfil de tomada de decisão da amostra com relação às questões bioéticas associadas à utilização de sistemas de IA. A análise dos dados qualitativos foi realizada por meio da análise de conteúdo de Bardin.

Resultados:

com relação ao perfil sociodemográfico pode-se observar uma amostra de adultos, do sexo feminino, com curso superior completo. Com relação às preocupados éticas associadas aos cenários aplicados, as principais preocupações foram em primeiro lugar a privacidade e confidencialidade dos dados, seguido de preocupações relacionadas à responsabilidade associada a utilização destas tecnologias, bem como ao consentimento informado.

Conclusão:

Desta forma, destaca-se a importância de novos estudos empíricos exploratórios como este, avaliando a percepção, atitudes e opiniões de públicos especializados, como profissionais da área da saúde, do direito, das humanidades, a fim de se obter evidências concretas para a elaboração de programas de gestão e governança dos sistemas de IA, sobretudo no cenário brasileiro, de escassez de recursos.

Palavras-chave: inteligência artificial; bioética; promoção da saúde

Resum

Objectiu:

analitzar la percepció dels usuaris de les xarxes socials sobre l'ús de sistemes d'IA al camp de la salut i els aspectes bioètics associats a aquest ús.

Mètode:

Estudi de mètode mixt, del tipus descriptiu-exploratori. El camí metodològic es va dividir en dues etapes: (1) recopilació d'informació sobre els aspectes bioètics principals involucrats en l'ús de la IA i (2) elaboració d'escenaris per a la presa de decisions. Les dades quantitatives es van analitzar mitjançant estadística descriptiva per caracteritzar la mostra des del punt de vista sociodemogràfic, així com per caracteritzar el perfil de presa de decisions de la mostra pel que fa a qüestions bioètiques associades a l'ús de sistemes d'IA. L'anàlisi de dades qualitatives es va fer utilitzant l'anàlisi de contingut de Bardin.

Resultats:

quant al perfil sociodemogràfic, es pot observar una mostra de dones adultes amb títol universitari. Pel que fa a les preocupacions ètiques associades als escenaris aplicats, les principals preocupacions van ser en primer lloc la privadesa i confidencialitat de les dades, seguides de les preocupacions relacionades amb la responsabilitat associada a l'ús d'aquestes tecnologies, així com el consentiment informat.

Conclusió:

D'aquesta manera, es destaca la importància de nous estudis empírics exploratoris com aquest, que avaluïn la percepció, actituds i opinions de públics especialitzats, com a professionals de la salut, dret, humanitats, per tal d'obtenir evidències concretes per al desenvolupament . programes de gestió i governança dels sistemes d'IA, especialment a l'escenari brasiler, on els recursos són escassos.

Paraules clau: intel·ligència artificial; bioètica; promoció de la salut

Resumen

Objetivo:

analizar la percepción de los usuarios de las redes sociales sobre el uso de sistemas de IA en el campo de la salud y aspectos bioéticos asociados a este uso.

Método:

método mixto, del tipo descriptivo-exploratorio. El camino metodológico se dividió en dos etapas: (1) recopilación de información sobre los principales aspectos bioéticos involucrados en el uso de la IA y (2) elaboración de escenarios para la toma de decisiones. Los datos cuantitativos se analizaron mediante estadística descriptiva para caracterizar la muestra desde el punto de vista sociodemográfico, así como para caracterizar el perfil de toma de decisiones de la muestra con respecto a cuestiones bioéticas asociadas al uso de sistemas de IA. El análisis de datos cualitativos se realizó utilizando el análisis de contenido de Bardin.

Resultados:

en el perfil sociodemográfico se observa una muestra de mujeres adultas con título universitario. En cuanto a las preocupaciones éticas asociadas a los escenarios aplicados, las principales preocupaciones fueron en primer lugar la privacidad y confidencialidad de los datos, seguidas de las preocupaciones relacionadas con la responsabilidad asociada al uso de estas tecnologías, así como el consentimiento informado.

Conclusión:

De esta forma, se destaca la importancia de nuevos estudios empíricos exploratorios como este, que evalúen la percepción, actitudes y opiniones de públicos especializados, como profesionales de la salud, derecho, humanidades, con el fin de obtener evidencias concretas para el desarrollo. de programas de gestión y gobernanza de los sistemas de IA, especialmente en el escenario brasileño, donde los recursos son escasos.

Palabras clave: inteligencia artificial; bioética; promoción de la salud

Abstract

Objective:

to analyze the perception of users of social networks regarding the use of AI systems in the field of health and the bioethical aspects associated with this use.

Method:

Mixed method study, of the descriptive-exploratory type. The methodological path was divided into two stages: (1) gathering information about the main bioethical aspects involved in the use of AI and (2) elaboration of decision-making scenarios. Quantitative data were analyzed using descriptive statistics in order to characterize the sample from a sociodemographic point of view, as well as to characterize the sample's decision-making profile regarding bioethical issues associated with the use of AI systems. Qualitative data analysis was performed using Bardin's content analysis.

Results:

with regard to the sociodemographic profile, a sample of female adults with a university degree can be observed. With regard to the ethical concerns associated with the applied scenarios, the main concerns were in the first place the privacy and confidentiality of the data, followed by concerns related to the responsibility associated with the use of these technologies, as well as informed consent.

Conclusion:

In this way, the importance of new exploratory empirical studies like this one is highlighted, evaluating the perception, attitudes and opinions of specialized audiences, such as professionals in the health, law, humanities, in order to obtain concrete evidence to the development of management and governance programs for AI systems, especially in the Brazilian scenario, where resources are scarce.

Keywords: artificial intelligence; bioethics; health promotion

1. Introdução

Os sistemas de Inteligência Artificial (IA), embora datem da década de 1940, com as proposições teórico e práticas de Alan Turing (Marquis et al., 2020), são considerados uma tecnologia recente, ainda em construção (Ekmekci & Arda, 2020; Haenlein & Kaplan, 2019). Os sistemas de IA podem ser definidos como sistemas autônomos, que simulam, modelam, processos de tomada de decisão, baseados em inteligência humana (Johnson, 2019). Esses sistemas, ainda, podem ser supervisionados, ou autônomos; podendo ainda combinar outras tecnologias, como aprendizado de máquinas e redes neurais (Haenlein & Kaplan, 2019).

Embora date da década de 1940, os sistemas de IA ganham reconhecimento e aplicação prática somente nas últimas décadas, sobretudo a partir de 1990 (Haenlein & Kaplan, 2019). As suas aplicações variam desde sistemas automatizados e autônomos para tomada de decisões jurídicas; tomada de decisões no mercado de ações e bolsa de valores; automatização e optimização de processos gerenciais e industriais; bem como aplicações na área da saúde (Johnson, 2019; Kaul et al., 2020; Marquis et al., 2020).

Com relação às aplicações dos sistemas de IA no campo da saúde, podemos destacar algumas utilizações bastante consolidadas (Johnson, 2019), como a triagem de doenças transmissíveis, como por exemplo, na pandemia de COVID-19 (Martin et al., 2020; Soltan et al., 2021; Tsiknakis et al., 2020); monitoramento e vigilância em tempo real de informações na internet e nas redes sociais, em busca de focos de doenças e comportamentos de risco (Husnayain et al., 2020; Visweswaran et al., 2020; Woo et al., 2016); também é utilizada na leitura de exames laboratoriais e de imagem; bem como é utilizada no diagnóstico e prognóstico de algumas doenças (Chianca et al., 2021; Do et al., 2020; Faleiros et al., 2020; Weikert et al., 2020), como as cardíacas por exemplo (Lopez-Jimenez et al., 2020). Uma outra aplicação de sistemas de IA que vem ganhando espaço na última década são as relacionadas às tecnologias de mHealth e tecnologias vestíveis, também conhecidas como "wearables", na qual aplicativos de monitoramento de sinais vitais e variáveis de estilo de vida são coletadas por estes aplicativos e processados por sistemas de IA, que recomendam planos personalizados para a melhora da qualidade de vida e do bem-estar geral dos indivíduos, bem como recomenda ações práticas para mudanças no estilo de vida (Chianca et al., 2021; Yetisen et al., 2018; Zhang et al., 2020), sobretudo de doenças crônicas não transmissíveis (DCNT), no qual este é um fator importante para o seu controle.

Apesar de todos os benefícios associados apontados pela literatura especializada a respeito da utilização dos sistemas de IA, são muito os aspectos bioéticos que são levantados a respeito da sua utilização (Morley et al., 2020). Questões envolvendo o consentimento informado e o respeito às decisões autônomas dos indivíduos (Astromskė et al., 2020), a responsabilidade médica ou do profissional da saúde, bem como das instituições de assistência que se utilizam dessa tecnologia (Cath et al., 2018); ainda, questões relacionadas à governança dos dados coletados, ou seja, a privacidade e a confidencialidade desses dados, sejam por meio de prontuários eletrônicos ou aplicativos de monitoramento em smartphones (Baig et al., 2020; Price & Cohen, 2019; Reddy et al., 2020); além de questões envolvendo achados secundários, que podem ou não ter um impacto na terapêutica do paciente (Uusitalo et al., 2020). Desta forma, a bioética complexa, cujo o objetivo é "realizar uma reflexão complexa, compartilhada, interdisciplinar sobre a adequação das ações que envolvem a vida e o viver" faz-se necessária, enquanto enquadramento teórico, em razão das diversas facetas que a utilização dessas novas tecnologias no campo da saúde apresentam (Goldim, 2006, Goldim, 2009).

Apesar da crescente utilização destes sistemas, em diversas áreas do conhecimento, e em especial no campo da saúde, são poucos, entretanto, os estudos que abordam a percepção, opinião e atitudes de pessoas leigas e profissionais de diversas áreas a respeito da utilização dos sistemas de IA, sobretudo com relação às suas implicações éticas, sociais e legais (Blease et al., 2019; Liyanage et al., 2019a). Há uma quantidade considerável de estudos abordando aspectos técnicos e teóricos a respeito da governança eticamente adequada deste tipo de tecnologia, porém estudos empíricos ainda são escassos. Desta forma, este estudo teve como objetivo analisar, por meio de um estudo de métodos mistos, a percepção de usuários de redes sociais online a respeito da utilização de sistemas de IA no campo da saúde e os aspectos bioéticos associados a essa utilização.

2. Materiais e Métodos

2.1. Delineamento

Estudo de método mistos, do tipo descritivo-exploratório (Creswell & Clark, 2015).

2.2. Etapa 1: Estratégia de busca sistemática de informação

Na etapa 1 uma busca sistemática de informação foi realizada nos bancos de dados (Pubmed, Scielo, WoS, EBSCO) com os termos IA, healthcare, health promotion e bioethics, mapeando, assim, as IA utilizadas na aréa da saúde, cujo o objetivo foi a elaboração dos cenários de tomada de decisão.

2.3. Etapa 2: Elaboração dos cenários de tomada de decisão sobre a utilização da IA na promoção da saúde

Baseados na busca realizada na Etapa 1, realizamos a construção de cenários de tomada de decisões (bio)éticas sobre a utilização das IA nos diferentes campos da saúde, abordando os principais temas e utilizações dos sistemas de inteligência artificial identificados na Etapa 1. Por meio desses cenários construímos um questionário, que foi aplicado via Google Forms. A divulgação do mesmo foi feita nas redes sociais online Facebook(r), Instagram(r) e Whatsapp(r) . A utilização deste meio de coleta de dados deu-se por conta da pandemia de covid-19 e objetivamos avaliar a percepção dos usuários destas redes sociais a respeito da utilização de sistemas de IA em procedimentos assistenciais no campo da saúde. A utilização deste meio de coleta de dados deu-se por conta da pandemia de COVID-19, objetivando avaliar a percepção dos usuários destas redes sociais a respeito da utilização de sistemas de IA em procedimentos assistenciais no campo da saúde.

Abaixo apresentamos a descrição de cada um dos cenários abordados com os participantes da pesquisa. Os cenários tiveram como objetivo avaliar a percepção dos participantes do presente estudo com relação aos aspectos bioéticos associados à utilização de sistemas de inteligência artificial, tais como consentimento informado, relação médico paciente, privacidade e confidencialidade, responsabilidade profissional e institucional, bem como questões associadas ao risco da utilização deste tipo de tecnologia.

2.3.1. Cenário de tomada de decisão 1

Tema abordado: IA e consulta médica de consulta

Você se dirige até uma instituição de saúde para uma consulta médica de rotina. Esta instituição, bem como seu médico assistente, utiliza-se de prontuário eletrônico, integrado com os demais sistemas e serviços/setores/departamentos do hospital. Devido ao grande volume de dados coletados, esta instituição tem investido cada vez mais no processamento destes dados para que otimize o trabalho dos profissionais de saúde, bem como na melhora da qualidade da assistência prestada ao paciente.

Ao chegar na consulta, seu médico carrega seu prontuário e confirma as suas informações. Todos os seus dados, a partir deste momento, estão sendo analisados e processados e ao fim do seu atendimento o seu médico assistente faz as suas observações, personalizadas, baseadas nas recomendações processadas pelos sistemas de inteligência artificial da instituição.

A partir do exposto acima, que questões éticas você apontaria como importantes, considerando a utilização da inteligência artificial em uma consulta de rotina?

2.3.2. Cenário de tomada de decisão 2

Tema abordado: IA e coleta de dados em tempo real por meio de dispositivos inteligentes como smartphone e smartwatches

O uso de dispositivos inteligentes, que monitoram nossos sinais a todo momento, é cada vez mais difundido, seja por meio de dispositivos específicos como relógios inteligentes, ou até mesmo pelos smarthphones.

Com a massiva coleta destes dados de saúde e estilo de vida por parte de grandes corporações da área da tecnologia, como Google, Apple e Amazon, por exemplo, diversas aplicações têm emergido, cujo objetivo é a melhora da qualidade de vida dos indivíduos - e até mesmo com o objetivo de "mudar" o "estilo de vida" dos indivíduos, para estilos de vida considerados mais saudáveis.

Neste sentido, uma série de aplicativos visa entregar recomendações objetivas, práticas, personalizadas, por meio da análise de seus dados pessoais, coletados durante um certo período, e processados por meio de algoritmos e sistemas de inteligência artificial próprios destas corporações.

A partir do exposto acima, que questões éticas você apontaria como importantes, considerando a utilização da inteligência artificial por meio da coleta e processamento de dados oriundos de dispositivos inteligentes, como smarthphones e relógios, por exemplo?

2.3.3. Cenário de tomada de decisão 3

Tema abordado: IA e a interpretação de exames

Seu médico assistente solicita a você que faça uma série de exames de imagem e laboratório para confirmar ou refutar a hipótese diagnóstica X e recomenda que você faça esses exames no próprio hospital que você está sendo atendida, pois todos os sistemas são eletrônicos e integrados.

A maioria destes exames serão processados por máquinas que se utilizam de inteligência artificial. A partir deste processamento, informarão ao técnico responsável a respeito dos resultados e o técnico poderá endossar ou não estes resultados e informar os resultados dos exames no sistema.

Seus resultados retornaram de acordo com a hipótese diagnóstica do médico. A partir destes resultados, e da hipótese diagnóstica X, o sistema de inteligência artificial do hospital faz algumas recomendações ao médico assistente, de acordo com as informações fornecidas no sistema, que decide endossar as recomendações do sistema de inteligência artificial, considerando as informações concretas e sua experiência profissional.

A partir do exposto acima, que questões éticas você apontaria como importantes, considerando a utilização da inteligência artificial para o processamento de exames de imagem e de laboratório?

2.3.4. Cenário de tomada de decisão 4

Tema abordado: IA, interpretação de exames e achados secundários

Seu médico assistente solicita a você que faça uma série de exames de imagem e laboratório para confirmar ou refutar a hipótese diagnóstica X e recomenda que você faça esses exames no próprio hospital que você está sendo atendida, pois todos os sistemas são eletrônicos e integrados.

A maioria destes exames serão processados por máquinas que se utilizam de inteligência artificial. A partir deste processamento, informarão ao técnico responsável a respeito dos resultados e o técnico poderá endossar ou não estes resultados e informar os resultados dos exames no sistema.

Seus resultados retornaram de acordo com a hipótese do médico, Entrentanto, resultados não-esperados foram encontrados, que podem ser relevantes ou não, para a hipótese diagnóstica em questão. Este resultado não-esperado só foi possível devido ao sistema de inteligência artificial do sistema, que identificou um padrão nos resultados antes não identificado pela "inteligência humana".

A partir do exposto acima, que questões éticas você apontaria como importantes, considerando a utilização da inteligência artificial para o processamento de exames de imagem e de laboratório?

2.4. Análise de dados

Os dados quantitativos foram analisados por meio de estatística descritiva, com o auxílio do software SPSS 21(r), a fim de caracterizar a amostra do ponto de vista sociodemográfico, bem como caracterizar o perfil de tomada de decisão da amostra com relação às questões bioéticas associadas à utilização de sistemas de IA.

A análise dos dados qualitativos foi realizada por meio da análise temática de conteúdo de Bardin (Bardin, 2011). Foram observadas as três etapas da análise de conteúdo de Bardin (Bardin, 2011), quais sejam: a pré-análise, exploração do material e interpretação e tratamento dos resultados. A análise dos dados foi realizada com o auxílio do software de método mistos QSR NVIVO 12 para Windows (Bazeley, 2013; Bazeley & Jackson, 2013).

2.5. Aspectos éticos

O presente estudo foi avaliado e aprovado pelo Comitê de Ética em Pesquisa com Seres Humanos da Universidade Cesumar sob o CAEE nº 33771520.2.0000.5539. O processo de consentimento informado foi obtido eletronicamente, por meio de formulário do Google Forms, seguindo as orientações das Resoluções 466 de 2012 e 510 de 2016 do Conselho Nacional de Saúde (CNS) e Comissão Nacional de Ética em Pesquisa (CONEP).

3. Resultados

Este trabalho objetivou analisar, por meio de estudo de métodos mistos, a percepção de usuários de redes sociais online a respeito da utilização de sistemas de IA no campo da saúde e os aspectos bioéticos associados a esta utilização. Abaixo são apresentados os dados sociodemográficos dos participantes da pesquisa.

3.1. Caracterização da amostra

A amostra foi comporta por 39 participantes, cuja idade média foi de 39 anos, com desvio padrão de +13 anos, e idade variando de 22 a 67 anos. Com relação à faixa etária, 56% (n=22) encontram-se na faixa entre os 20 e 39 anos; 33,3% (n=13) entre a dos 40 e 59 anos; e 10,3% (n=4) na faixa dos 60 anos ou mais. Além disto, a maioria é do sexo feminino, 69,2% (n=27) e se autodeclaram da cor branca, 82,1% (n=32), de acordo com as categorias do IBGE. Com relação ao estado civil, 61,5% (n=24) declararam estar casados e 33,3% (n=13) solteiros no momento da pesquisa. Com relação à escolaridade a maioria dos participantes, 89,7% (n=35) possuíam ensino superior completo, sendo professor (25,6%, n=10), cirurgião-dentista (10,3%, n=4), advogado (10,3%, n=4) as profissões mais frequentes (tabela 1).

Tabela 1. Dados sociodemográficos dos participantes do presente estudo. 

*De acordo com as categorias do IBGE.

Com o objetivo de avaliar se os participantes tinham conhecimento prévio a respeito do que seriam os sistemas de IA, 71,8% (n=28) afirmaram que possuíam conhecimento prévio a respeito do que é essa tecnologia. Quando indagados se estes mesmos sistemas de IA poderiam impactar a relação médico-paciente, a grande maioria afirmou que sim, 97,4% (n=38). Por fim, quando perguntados se acreditavam que os sistemas de IA seriam utilizados numa perspectiva especializada ou holística, 56,4% (n=22) respondeu a primeira opção, enquanto 43,6% (n=17), respondeu a segunda.

Tabela 2. Conhecimentos a respeito dos sistemas de IA. 

Com relação à análise de conteúdo realizada com base nas respostas à pergunta "o que é inteligência artificial para você?" as principais definições dadas relacionavam a inteligência artificial com programas de computador, que são capazes de realizar atividades ou tarefas humanas por meio do processamento de informações e algoritmos (Figura 1).

Figura 1. 20 palavras mais frequentemente utilizadas pelos participantes da pesquisa para caracterizar o que é inteligência artificial. 

A seguir, apresentamos algumas falas utilizadas pelos participantes da pesquisa com o intuito de definir o que é inteligência artificial:

"É um conglomerado de tecnologias que simulação o pensamento humano".

"É uso da tecnologia, uso de máquinas pra realizarmos tarefas humanas".

"Sistemas computacionais capazes de realizar tarefas e tomar decisões a partir de algoritmos".

"São programas de computador capazes de estabelecer determinados resultados de acordo com as informações inseridas em seus bancos de dados. Os resultados obtidos dependem do problema que se pretende solucionar, da forma como a inteligência artificial foi programada e dos dados disponíveis".

O cenário 1 teve como objetivo analisar a percepção dos participantes da pesquisa com a relação à utilização de sistemas de IA numa consulta médica de rotina. Quando questionados a respeito de quais questões bioéticas identificavam como associadas a utilização dessa tecnologia no ambiente de uma consulta de rotina, os participantes demostraram preocupação com a privacidade e a confidencialidade dos dados coletados no caso descrito (92,3%); além disto, demonstraram preocupação com questões relacionadas à responsabilidade profissional e institucional pela utilização desta tecnologia, no âmbito da saúde (71,8%); por fim, o consentimento informado aparece como terceira maior preocupação relacionada aos aspectos bioéticos da utilização dos sistemas de IA em uma consulta médica de rotina (66,7%). É importante ressaltar que os participantes poderiam marcar mais de uma resposta a esta questão, portanto um mesmo participante pode ter marcado mais de uma alternativa.

Figura 2: Preocupações éticas apontadas pelos participantes da pesquisa com relação à utilização de sistemas de IA numa consulta médica de rotina. 

Quando questionados os motivos pelos quais estas eram suas preocupações éticas os participantes da pesquisa mencionaram que a segurança na proteção da confidencialidade e da privacidade de seus dados era o tópico mais sensível, enfatizando a possibilidade da quebra da confidencialidade desses dados por meio de ataques cibernéticos e vazamento dos mesmos a terceiros; ainda, apontam a responsabilidade da instituição na proteção destes dados, bem como também mencionam o consentimento informado no sentido de saberem que um sistema de IA está sendo utilizado para processar suas informações médicas. A seguir são apresentadas algumas falas relacionadas ao cenário 1:

"Privacidade e Confidencialidade, pois não teria segurança em como a instituição bloquearia o acesso de outras pessoas aos meus dados ou conteria possíveis vazamentos de informações".

"Vazamento de informações privadas para terceiros e, além disso, eventual "venda" dos meus dados na internet".

"Consentimento Informado. Todos temos o direito de saber como o médico chegou a uma conclusão".

"Consentimento do paciente, considerando que os dados são processados e analisados por uma máquina, não foi informado o risco comparativo a erros possíveis pela análise do médico"

O cenário 2 teve como objetivo analisar a percepção dos participantes da pesquisa com a relação à utilização de sistemas de IA em dispositivos inteligentes, como smarthphones e smartwatches, e aplicativos de mudança de estilo de vida. Quando perguntados à respeito da utilização de dados pessoais por aplicativos baseados em sistema de IA, cuja meta é a mudança de hábitos e do estilo de vida, os participantes também demonstraram preocupação, em primeiro lugar, com as questões de privacidade e confidencialidade no uso desses dados (76,9%); em segundo lugar, preocupação com questões relacionados ao consentimento informado na origem da coleta de dados por estes dispositivos e aplicativos (66,7%); e por fim, demonstraram, também, preocupação com relação à responsabilidade pelas recomendações dadas por esses aplicados (48,7%).

Figura 3: Preocupações éticas apontadas pelos participantes da pesquisa com relação à utilização de sistemas de IA e apps de mudança de hábitos e de estilo de vida. 

Quando questionados os motivos pelos quais estas eram suas preocupações éticas associadas à utilização de sistemas de IA em apps de monitoramento e de mudança de estilo de vida, os participantes da pesquisa mencionaram novamente que a segurança proteção e guarda dos dados coletados em tempo real e de forma constante como sendo o aspecto bioético mais sensível, enfatizando a possibilidade da utilização destes dados de forma indevida, ou seja, para fins que não os definidos no escopo dos aplicativos; ainda, mencionam questão do "direito de saber" que dados seus estão sendo utilizados e para que finalidade, bem como a questão do consentimento informado. A seguir são apresentadas algumas falas relacionadas ao cenário 2:

"Privacidade, considerando o potencial uso destas informações de forma indevida e sem o consentimento realmente informado".

"Privacidade e Confidencialidade, pois não teria segurança em como o aplicativo estaria processando as informações e com quem meus dados são compartilhados".

"Privacidade e Confidencialidade. Todos temos o direito de saber quais são os dados que estão sendo coletados".

"Considerando o consentimento informado daquele que utiliza o aplicativo já com o intuito de uma melhora na qualidade de vida, acredito que a responsabilidade do fornecedor do aplicativo ou daquele que coleta e processa os dados mediante inteligência artificial seja a maior preocupação ética neste caso, tendo em vista o risco que assume ao "induzir" o consumidor a praticar determinados hábitos ditos como saudáveis".

O cenário 3 teve como objetivo analisar a percepção dos participantes da pesquisa com a relação à utilização de sistemas de IA no processamento e interpretação de exames de imagem e laboratoriais. Quando perguntados a respeito da utilização de sistemas de IA no processamento de tais exames, sejam laboratoriais ou de imagem, as duas maiores preocupações dos participantes foram a responsabilidade e a confiança, ambas com 79,5%, cada. Ainda, demonstraram preocupações relacionadas ao risco associado a este tipo de atividade, bem como a questões de privacidade e confidencialidade dos dados coletados e processados pelos sistemas de IA, ambas com 33,3%, cada.

Figura 4: Preocupações éticas apontadas pelos participantes da pesquisa com relação à utilização de sistemas de IA na interpretação de exames laboratoriais e de imagen. 

Quando questionados os motivos pelos quais estas eram suas preocupações éticas associadas à utilização de sistemas de IA na leitura, processamento e interpretação de exames de imagem e laboratoriais, os participantes da pesquisa mencionaram a responsabilidade do profissional no sentido de endossar a análise e resultados do sistema de IA, não se sobrepondo a decisão do profissional da área; além disto, mencionam também justificativas relacionadas à confiança, no sentido do processo todo ter sido conduzido pela máquina, bem como com relação à acurácia destes resultados e possíveis erros. A seguir são apresentadas algumas falas relacionadas ao cenário 3:

"Responsabilidade. Uso de sistemas de inteligência artificial na elaboração de diagnósticos pode induzir o médico a abdicar da sua responsabilidade quanto aos mesmos".

"Responsabilidade, os dados oriundos da inteligência artificial não devem sobrepor a decisão do profissional, visto veste tem a oportunidade de fazer análise clínica do paciente".

"Confiança, pois não teria como saber se os resultados dos exames foram de fato analisados por uma pessoa e se as sugestões da IA são o melhor para o tratamento".

"Confiança, o processamento de dados pode induzir a erros, ele deve ser testado exaustivamente e não dispensa um profissional adequadamente qualificado".

O cenário 4 teve como objetivo analisar a percepção dos participantes da pesquisa com a relação à utilização de sistemas de IA no processamento e interpretação de exames de imagem e laboratoriais, no cenário de achados secundários, que poderiam ou não ter significado clínico junto à hipótese diagnóstica. Quando perguntados sobre as principais preocupações com relação aos achados secundários, ou seja, achados não esperados, a principal resposta foi a preocupação com a confiança deste resultado (84,6%), seguida da responsabilidade associada a este achado, relevante ou não clinicamente (74,4%); e por fim, preocupações com relação à privacidade e confidencialidade desses dados.

Figura 5: Preocupações éticas apontadas pelos participantes da pesquisa com relação à utilização de sistemas de IA na interpretação de exames laboratoriais e de imagem e achados secundários à hipótese diagnóstica. 

Quando questionados os motivos pelos quais estas eram suas preocupações éticas associadas à utilização de sistemas de IA na leitura, processamento e interpretação de exames de imagem e laboratoriais e achados secundários, os participantes da pesquisa mencionaram novamente confiança e a responsabilidade do profissional perante a esses achados secundários e seu possível significado clínico. A seguir são apresentadas algumas falas relacionadas ao cenário 4:

"A maior preocupação ética neste caso encontra-se na responsabilidade médica ao averiguar os novos padrões encontrados nos resultados dos exames realizados, a fim de colocar em prática o que realmente deve ser feito para a melhora do paciente".

"O padrão pode ser fruto de uma associação espúria, com significância estatística, mas sem relevância clinica".

"O discernimento do médico para aceitar ou refutar as informações da IA, de acordo com o quadro clínico do paciente".

"Principalmente responsabilidade do resultado do possível exame, bem como a confiabilidade dessa hipótese diagnóstica".

4. Discussão

A utilização de sistemas de IA no campo da saúde tem sido cada vez mais difundida e defendida (Emanuel & Wachter, 2019; Racine et al., 2019), seja por grupos de pacientes, associações hospitalares ou grandes empresas da área de tecnologia. Embora sejam promissoras as aplicações dos sistemas de IA desde à atenção primária até a cirurgia robótica (Ayoub & Pulijala, 2019; Blease et al., 2019; Lin et al., 2019; Liyanage et al., 2019b), são muitas as questões éticas suscitadas pela utilização desta tecnologia (Morley et al., 2020), cujo um dos objetivos é a simulação da inteligência humana em processos de tomada de decisão no campo da saúde. Neste sentido, a bioética complexa surge como uma ferramenta teórica metodológica importante para pensarmos esta questão, uma vez que esta tem como finalidade realizar uma "reflexão complexa, compartilhada e interdisciplinar sobre as ações que envolvem a vida e o viver (Goldim, 2006, 2009)". Na perspectiva da bioética complexa podemos utilizar sete referenciais teóricos da ética para analisar as questões bioéticas associadas à utilização de sistemas de IA no campo da saúde, quais seja, a ética das virtudes, de Aristóteles; a ética das intenções, de Pedro Abelardo; a ética utilitarista, de Mill e Bentham; a ética dos princípios, de Beauchamp e Childress; a ética dos direitos humanos, de Marshall; bem como a ética da responsabilidade, de Hans Jonas e a ética da alteridade de Emanuel Levinas (Goldim, 2006, 2009).

Liyanage et. al. (Liyanage et al., 2019b) em estudo cujo objetivo foi estabelecer um consenso a respeito da utilização de sistemas de IA na atenção primária em saúde (APS), realizou painel de juízes, por meio da metodologia Delphi, para avaliar a percepção, atitudes, opiniões e desafios da implementação dessa tecnologia na APS. Os autores identificaram quatro temáticas predominantes durante os painéis, quais sejam, (1) utilização da IA para melhorar o processo de tomada de decisão na APS, (2) utilização da IA para o reconhecimento de padrões no processamento e interpretação de exames de imagem, (3) utilização da IA para modelos preditivos para desenvolvimento de determinadas doenças por meio de dados coletados na APS e (4) utilização da IA para análises de mercado para provedores de cuidados em APS. As questões ética levantadas pelo painel de especialistas foram (1) os sistemas de IA atualmente disponíveis ainda não são suficientemente competentes para substituir o componente humano no processo de tomada de decisão clínica; (2) o risco de erro medico associado a utilização acrítica dessa tecnologia; (3) o risco de vieses humanos de base na programação destes sistemas; e (4) o risco de consequências e efeitos não previstos da utilização dos sistemas de IA, como a utilização inadvertida por seguradoras de saúde sem o conhecimento e consentimento do cliente. Blease et al. (Blease et al., 2019) em survey realizada com clínicos gerais na Inglaterra avaliaram as atitudes e opiniões destes com relação a utilização dos sistemas de IA e a especificidade da utilização destes. As questões éticas levantadas pelos participantes do estudo foram a (1) a falta de empatia e a importância da relação face-a-face na relação médico-paciente; (2) ceticismo com relação à capacidade de raciocínio clínico dos sistemas de IA; (3) cinismo com relação à capacidade dessa tecnologia prover cuidados que respeitem as preferencias, necessidade e valores do paciente no processo de tomada de decisão. Embora nosso estudo não tenha sido realizado com uma população de especialistas, como o de Liyanage et al. (Liyanage et al., 2019b) e Blease et al (Blease et al., 2019), foi possível observar que os participantes da pesquisa na sua maioria tinham conhecimento prévio a respeito do que é a IA, bem como as definiram como sistemas que simulam a capacidade ou inteligência humana de tomar decisões, reconhecendo potencialidades e limitações na utilização desta tecnologia. Além disto, a maioria também respondeu que acredita que a utilização de sistemas de IA no campo da saúde terá impacto na relação médico-paciente, bem como a utilização desta tecnologia tende ser feito dentro de um escopo especializado, em contraposição a uma abordagem holística do paciente.

A utilização de sistemas de IA no cenário de consultas médicas de rotina, bem como na utilização de dados por aplicativos de mudança de hábitos e estilo de vida, trouxe como questões centrais a privacidade e confidencialidade no tratamento dos dados sensíveis das pessoas, bem como questões relacionadas à responsabilidade profissional e o processo de consentimento informado na utilização desta tecnologia. A preocupação com a privacidade dos usuários de sistemas de saúde, bem como pacientes de instituições do campo da saúde, é uma das principais questões discutidas na literatura, sobretudo relacionada a possíveis violações da privacidade dos indivíduos (Morley et al., 2020; Price & Cohen, 2019). Neste sentido Price II e Cohen (Price & Cohen, 2019) propõem formas de trabalhar de forma eticamente adequada respeitando a privacidade do paciente, quando da utilização de sistemas de IA. Os autores ressaltam a importância do processo de consentimento informado, no sentido de informar as pessoas a respeito de como esses dados serão utilizados, para quais objetivos e de que forma serão armazenados. Propõem ainda a proposição de dois tipos de consentimento informado, um específico, para determinada situação, e outro ampliado, para usos múltiplos, para garantir a privacidade destes dados no âmbito da saúde. Por fim, propõe um modelo de governança compartilhada entre diferentes profissionais, baseado nos princípios de equidade, justiça e consentimento informado. Johnson (Johnson, 2019), analisando a legislação de países anglo-saxões, identifica que países como EUA, Reino Unido, Australia, por exemplo, já preveem, em suas Legislações, a forma como os sistemas de IA devem ser administrados e que princípios éticos, legais e sociais devem nortear a sua utilização. No Brasil, é importante mencionar a Lei Geral de Proteção de Dados (LGPD) de 14 de Agosto de 2018 (Brasil, 2018) que dispõe sobre

"o tratamento de dados pessoais, inclusive nos meios digitais, por pessoa natural ou por pessoa jurídica de direito público ou privado, com o objetivo de proteger os direitos fundamentais de liberdade e de privacidade e o livre desenvolvimento da personalidade da pessoa natural"

Ainda em relação à privacidade e confidencialidade é importante ressaltar que Bandman e Bandman (Bandman & Bandman, 1984) e a Declaração de Bioética e Direitos Humanos da UNESCO (UNESCO, 2009) já colocam a privacidade como um direito humano das pessoas humanas e o dever que instituições e profissionais de diferentes áreas, especialmente as da saúde, tem com relação a manutenção da confidencialidade dos dados sensíveis dos pacientes e usuários dos sistemas de saúde. O que o cenário dos sistemas de IA nos colocam como desafios é justamente como garantir a privacidade como um direito humano, dentro de uma governança eticamente adequada e orientada para o bem comum, como proposto por Floridi et al. (Floridi et al., 2018) no projeto "AI4People". O consentimento informado é uns principais princípios da bioética (T. Beauchamp, 2010; T. L. Beauchamp & Childress, 2013). Os pacientes e usuários de aplicativos de mudança de hábitos e estilo de vida tem o direito de serem informados a respeito de quais dados serão coletados, de que forma serão armazenados e processados (Astromskė et al., 2020). Neste sentido, a utilização de sistemas de IA por profissionais da área da saúde deve estar orientada para o esclarecimento do paciente a respeito dos benefícios e de possíveis riscos associados a utilização desta tecnologia.

A utilização de sistemas de IA no processamento e interpretação de exames laboratoriais e de imagens já está bem estabelecida na comunidade biomédica (Cui & Zhang, 2021; Oren et al., 2020; Tang, 2020). Assim como observado nas respostas dos participantes de nossa pesquisa, as principais questões éticas apontadas pela literatura estão associadas à responsabilidade e à confiança no processamento destes exames pelos sistemas de IA (Larson et al., 2020). A responsabilidade pode ser discutida, no contexto das novas tecnologias no campo da saúde, na perspectiva tanto dos profissionais que se utilizam destas tecnologias, quanto da responsabilidade que as empresas que desenvolvem essas tecnologias, especialmente estas que realizam a interpretação de dados de imagens e laboratoriais (Cath et al., 2018; Coeckelbergh, 2020; Risling & Low, 2019). É importante notar que, de acordo com a perspectiva da alteridade de Emanual Levinas, todos somos corresponsáveis neste contexto, profissionais, sociedade, paciente (Goldim, 2016; Jonas, 2006). Desta forma, ressalta-se a importância de sistemas de governança, compartilhados, por diferentes profissionais e atores sociais, cuja finalidade é monitorar, constantemente, a utilização de sistemas de IA no campo da saúde e apurar eventuais erros e adequações ao processo, buscando sempre trabalhar na lógica da responsabilidade prospectiva, ou seja, na identificação da causa do erro, para que novos erros semelhantes não aconteçam (Goldim, 2016; Jonas, 2006).

5. Considerações Finais

Diante do número escasso de estudos empíricos avaliando a percepção, opinião e atitudes de profissionais, pacientes e público em geral a respeito da utilização de sistemas de IA no campo da saúde, este estudo objetivou analisar, por meio de um estudo de métodos mistos, a percepção de usuários de redes sociais online a respeito da utilização de sistemas de IA no campo da saúde e os respectivos aspectos bioéticos associados a essa utilização.

Foi possível observar, na amostra estudada, que:

  • Os participantes da pesquisa demonstram ter conhecimento sobre o que são os sistemas de IA e quais as suas principais aplicações;

  • Além disto, acreditam que os sistemas de IA provocaram mudanças na relação médico-paciente, e percebem que a utilização dessa tecnologia pode intensificar o olhar especializado sobre as condições clínicas do paciente

  • Com relação as principais questões éticas levantadas pelos participantes da presente pesquisa, destaca-se a preocupação com a privacidade e confidencialidade, com o processo de consentimento, com a atribuição de responsabilidade na utilização dos sistemas de IA, nos cenários de consulta médica de rotina, uso de dados por aplicativos de dispositivos inteligentes e processamento de imagens e exames laboratoriais por sistemas de IA

Desta forma, destaca-se a importância de novos estudos empíricos do tipo survey avaliando a percepção, atitudes e opiniões de públicos especializados, como profissionais da área da saúde, do direito, das humanidades, a fim de se obter evidências concretas para a elaboração de programas de gestão e governança dos sistemas de IA, sobretudo no cenário brasileiro, de escassez de recursos. Além disto, estas evidências podem servir de elementos para a criação de programas de educação em saúde para o esclarecimento da população a respeito da utilização destas tecnologias e seus benefícios e riscos associados.

Agradecimentos

Ao ICETI-UniCEsumar pelo Programa de Bolsa de Produtividade Docente concedida aos professores Lucas França Garcia e Leonardo Pestillo de Oliveira.

Referências

1. Astromskė K, Peičius E, Astromskis P. (2020). Ethical and legal challenges of informed consent applying artificial intelligence in medical diagnostic consultations. AI & Society. https://doi.org/10.1007/s00146-020-01008-9. [ Links ]

2. Ayoub A, Pulijala Y. (2019). The application of virtual reality and augmented reality in Oral & Maxillofacial Surgery. BMC Oral Health, 19, 1-8. https://doi.org/10.1186/s12903-019-0937-8. [ Links ]

3. Baig MA, Almuhaizea MA, Alshehri J, Bazarbashi MS, Al-Shagathrh F. (2020). Urgent Need for Developing a Framework for the Governance of AI in Healthcare. Studies in Health Technology and Informatics, 272, 253-256. https://doi.org/10.3233/SHTI200542. [ Links ]

4. Bandman E, Bandman B. (1984). Bioethics and Human Rights: A Reader for Health Professionals. Univ Pr of Amer. [ Links ]

5. Bardin L. (2011). Análise de Conteúdo (2nd ed.). Edições 70. https://books.google.com.br/books?id=AFpxPgAACAAJ. [ Links ]

6. Bazeley P. (2013). Qualitative Data Analysis: Practical Strategies. SAGE Publications, Inc. [ Links ]

7. Bazeley P, Jackson K. (2013). Qualitative Data Analysis with Nvivo. SAGE Publications, Inc. [ Links ]

8. Beauchamp T. (2010). Standing on principles. Oxford University Press. [ Links ]

9. Beauchamp TL, Childress JF. (2013). Principles of Biomedical Ethics (7th ed.). Oxford University Press. [ Links ]

10. Blease C, Kaptchuk TJ, Bernstein MH, Mandl KD, Halamka JD, Desroches CM. (2019). Artificial intelligence and the future of primary care: exploratory qualitative study of UK general practitioners' views. Journal of Medical Internet Research, 21 (3). https://doi.org/10.2196/12802. [ Links ]

11. Brasil. (2018). Lei Geral de Proteção de Dados Pessoais (LGPD). DOU, 14 de Agosto de 2018. http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. [ Links ]

12. Cath C, Wachter S, Mittelstadt B, Taddeo M, Floridi L. (2018). Artificial Intelligence and the 'Good Society': the US, EU, and UK approach. Science and Engineering Ethics, 24 (2), 505-528. https://doi.org/10.1007/s11948-017-9901-7. [ Links ]

13. Chianca V, Cuocolo R, Gitto S, Albano D, Merli I, Badalyan J, Cortese MC, Messina C, Luzzati A, Parafioriti A, Galbusera F, Brunetti A, Sconfienza LM. (2021). Radiomic Machine Learning Classifiers in Spine Bone Tumors: A Multi-Software, Multi-Scanner Study. European Journal of Radiology, 137, 109586. https://doi.org/10.1016/j.ejrad.2021.109586. [ Links ]

14. Coeckelbergh M. (2020). Artificial Intelligence, Responsibility Attribution, and a Relational Justification of Explainability. Science and Engineering Ethics, 26 (4), 2051-2068. https://doi.org/10.1007/s11948-019-00146-8. [ Links ]

15. Creswell J, Clark VLP. (2015). Pesquisa de Métodos Mistos (2a). Penso Editora. [ Links ]

16. Cui M, Zhang DY. (2021). Artificial intelligence and computational pathology. Laboratory Investigation, 101(4), 412-422. https://doi.org/10.1038/s41374-020-00514-0. [ Links ]

17. Do HM, Spear LG, Nikpanah M, Mirmomen SM, Machado LB, Toscano AP, Turkbey B, Bagheri MH, Gulley JL, Folio LR. (2020). Augmented Radiologist Workflow Improves Report Value and Saves Time: A Potential Model for Implementation of Artificial Intelligence. Academic Radiology, 27(1), 96-105. https://doi.org/10.1016/j.acra.2019.09.014. [ Links ]

18. Ekmekci PE, Arda B. (2020). History of Artificial Intelligence (pp. 1-15). https://doi.org/10.1007/978-3-030-52448-7_1. [ Links ]

19. Emanuel EJ, Wachter RM. (2019). Artificial Intelligence in Health Care. JAMA, 321 (23), 2281. https://doi.org/10.1001/jama.2019.4914. [ Links ]

20. Faleiros MC, Nogueira-Barbosa MH, Dalto VF, Júnior JRF, Tenório APM, Luppino-Assad R, Louzada-Junior P, Rangayyan RM, Azevedo-Marques PM. (2020). Machine learning techniques for computer-aided classification of active inflammatory sacroiliitis in magnetic resonance imaging. Advances in Rheumatology, 60 (1), 25. https://doi.org/10.1186/s42358-020-00126-8. [ Links ]

21. Floridi L, Cowls J, Beltrametti M, Chatila R, Chazerand P, Dignum V, Luetge C, Madelin R, Pagallo U, Rossi F, Schafer B, Valcke P, Vayena E. (2018). AI4People-An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations. Minds and Machines, 28 (4), 689-707. https://doi.org/10.1007/s11023-018-9482-5. [ Links ]

22. Goldim JR. (2006). Bioética: Origens e complexidade. Rev HCPA, 26 (2). [ Links ]

23. Goldim JR. (2009). [Complex bioethics: a comprehensive approach to decision making process]. Revista AMRIGS, 53 (1), 58-63. [ Links ]

24. Goldim JR. (2016). Bioethics after Levinas. In eLS (pp. 1-4). John Wiley & Sons, Ltd. https://doi.org/10.1002/9780470015902.a0026694. [ Links ]

25. Haenlein M, Kaplan A. (2019). A Brief History of Artificial Intelligence: On the Past, Present, and Future of Artificial Intelligence. California Management Review, 61 (4), 5-14. https://doi.org/10.1177/0008125619864925. [ Links ]

26. Husnayain A, Shim E, Fuad A, Su ECY. (2020). Understanding the Community Risk Perceptions of the COVID-19 Outbreak in South Korea: Infodemiology Study. Journal of Medical Internet Research, 22 (9), e19788. https://doi.org/10.2196/19788. [ Links ]

27. Johnson SLJ. (2019). AI, Machine Learning, and Ethics in Health Care. The Journal of Legal Medicine, 39 (4), 427-441. https://doi.org/10.1080/01947648.2019.1690604. [ Links ]

28. Jonas H. (2006). O principio responsabilidade: ensaio de uma etica para a civilização tecnologica. Contraponto. [ Links ]

29. Kaul V, Enslin S, Gross SA. (2020). History of artificial intelligence in medicine. Gastrointestinal Endoscopy, 92 (4), 807-812. https://doi.org/10.1016/j.gie.2020.06.040. [ Links ]

30. Larson DB, Magnus DC, Lungren, MP, Shah NH, Langlotz CP. (2020). Ethics of Using and Sharing Clinical Imaging Data for Artificial Intelligence: A Proposed Framework. Radiology, 192536. https://doi.org/10.1148/radiol.2020192536. [ Links ]

31. Lin SY, Mahoney MR, Sinsky CA. (2019). Ten Ways Artificial Intelligence Will Transform Primary Care. Journal of General Internal Medicine https://doi.org/10.1007/s11606-019-05035-1. [ Links ]

32. Liyanage H, Liaw ST, Jonnagaddala J, Schreiber R, Kuziemsky C, Terry A, de Lusignan S. (2019a). Artificial Intelligence in Primary Health Care: Perceptions, Issues, and Challenges. Yearbook of Medical Informatics. https://doi.org/10.1055/s-0039-1677901. [ Links ]

33. Liyanage H, Liaw ST, Jonnagaddala J, Schreiber R, Kuziemsky C, Terry AL, Lusignan S. (2019b). Artificial Intelligence in Primary Health Care: Perceptions, Issues, and Challenges. Yearbook of Medical Informatics, 28 (01), 041-046. https://doi.org/10.1055/s-0039-1677901. [ Links ]

34. Lopez-Jimenez F, Attia Z, Arruda-Olson AM, Carter R, Chareonthaitawee P, Jouni H, Kapa S, Lerman A, Luong C, Medina-Inojosa JR, Noseworthy PA, Pellikka PA, Redfield MM, Roger VL, Sandhu GS, Senecal C, Friedman PA. (2020). Artificial Intelligence in Cardiology: Present and Future. Mayo Clinic Proceedings, 95 (5), 1015-1039. https://doi.org/10.1016/j.mayocp.2020.01.038. [ Links ]

35. Marquis P, Papini O, Prade H. (2020). Elements for a History of Artificial Intelligence. In A Guided Tour of Artificial Intelligence Research (pp. 1-43). Springer International Publishing. https://doi.org/10.1007/978-3-030-06164-7_1. [ Links ]

36. Martin A, Nateqi J, Gruarin S, Munsch N, Abdarahmane I, Zobel M, Knapp B. (2020). An artificial intelligence-based first-line defence against COVID-19: digitally screening citizens for risks via a chatbot. Scientific Reports, 10 (1), 19012. https://doi.org/10.1038/s41598-020-75912-x. [ Links ]

37. Morley J, Machado VCC, Burr C, Cowls J, Joshi I, Taddeo M, Floridi L. (2020). The ethics of AI in health care: A mapping review. Social Science & Medicine, 260. https://doi.org/10.1016/j.socscimed.2020.113172. [ Links ]

38. Oren O, Gersh BJ, Bhatt DL. (2020). Artificial intelligence in medical imaging: switching from radiographic pathological data to clinically meaningful endpoints. The Lancet Digital Health, 2 (9), e486-e488. https://doi.org/10.1016/S2589-7500(20)30160-6. [ Links ]

39. Price WN 2nd, Cohen IG. (2019). Privacy in the age of medical big data. Nature Medicine, 25 (1), 37-43. https://doi.org/10.1038/s41591-018-0272-7. [ Links ]

40. Racine E, Boehlen W, Sample M. (2019). Healthcare uses of artificial intelligence: Challenges and opportunities for growth. Healthcare Management Forum, 32 (5), 272-275. https://doi.org/10.1177/0840470419843831. [ Links ]

41. Reddy S, Allan S, Coghlan S, Cooper P. (2020). A governance model for the application of AI in health care. Journal of the American Medical Informatics Association, 27 (3), 491-497. https://doi.org/10.1093/jamia/ocz192. [ Links ]

42. Risling TL, Low C. (2019). Advocating for Safe, Quality and Just Care: What Nursing Leaders Need to Know about Artificial Intelligence in Healthcare Delivery. Nursing Leadership (Toronto, Ont.), 32 (2), 31-45. https://doi.org/10.12927/cjnl.2019.25963. [ Links ]

43. Soltan AAS, Kouchaki S, Zhu T, Kiyasseh D, Taylor T, Hussain ZB, Peto T, Brent AJ, Eyre DW, Clifton DA. (2021). Rapid triage for COVID-19 using routine clinical data for patients attending hospital: development and prospective validation of an artificial intelligence screening test. The Lancet Digital Health, 3 (2), e78-e87. https://doi.org/10.1016/S2589-7500(20)30274-0. [ Links ]

44. Tang X. (2020). The role of artificial intelligence in medical imaging research. BJR|Open, 2 (1), 20190031. https://doi.org/10.1259/bjro.20190031. [ Links ]

45. Tsiknakis N, Trivizakis E, Vassalou E, Papadakis G, Spandidos D, Tsatsakis A, Sánchez‑García J, López‑González R, Papanikolaou N, Karantanas A, Marias K. (2020). Interpretable artificial intelligence framework for COVID‑19 screening on chest X‑rays. Experimental and Therapeutic Medicine, 20 (2), 727-735. https://doi.org/10.3892/etm.2020.8797. [ Links ]

46. UNESCO. (2009). The UNESCO Universal Declaration on Bioethics and Human Rights Background, principles and application (H. A. M. J. ten Have & M. S. Jean, eds.). United Nations Educational. http://www.unesco-chair-bioethics.org/wp-content/uploads/2015/08/The-UNESCO-Universal-Declaration-on-Bioethics-and-Human-Rights-Background-Principles-and-Application.pdf. [ Links ]

47. Uusitalo S, Tuominen J, Arstila V. (2020). Mapping out the philosophical questions of AI and clinical practice in diagnosing and treating mental disorders. Journal of Evaluation in Clinical Practice, https://doi.org/10.1111/jep.13485. [ Links ]

48. Visweswaran S, Colditz JB, O'Halloran P, Han NR, Taneja SB, Welling J, Chu KH, Sidani JE, Primack BA. (2020). Machine Learning Classifiers for Twitter Surveillance of Vaping: Comparative Machine Learning Study. Journal of Medical Internet Research, 22 (8), e17478. https://doi.org/10.2196/17478. [ Links ]

49. Weikert T, Winkel DJ, Bremerich J, Stieltjes B, Parmar V, Sauter AW, Sommer G. (2020). Automated detection of pulmonary embolism in CT pulmonary angiograms using an AI-powered algorithm. European Radiology, 30 (12), 6545-6553. https://doi.org/10.1007/s00330-020-06998-0. [ Links ]

50. Woo H, Cho Y, Shim E, Lee JK, Lee CG, Kim SH. (2016). Estimating Influenza Outbreaks Using Both Search Engine Query Data and Social Media Data in South Korea. Journal of Medical Internet Research, 18 (7), e177. https://doi.org/10.2196/jmir.4955. [ Links ]

51. Yetisen AK, Martinez-Hurtado JL, Ünal B, Khademhosseini A, Butt H. (2018). Wearables in Medicine. Advanced Materials, 30 (33), 1706910. https://doi.org/10.1002/adma.201706910. [ Links ]

52. Zhang J, Oh YJ, Lange P, Yu Z, Fukuoka Y. (2020). Artificial Intelligence Chatbot Behavior Change Model for Designing Artificial Intelligence Chatbots to Promote Physical Activity and a Healthy Diet: Viewpoint. Journal of Medical Internet Research, 22 (9), e22845. https://doi.org/10.2196/22845. [ Links ]

FinanciaciónEste trabalho é resultado da dissertação de mestrado acadêmico desenvolvido pela biomédica Evelise S. Duarte e orientada pelo Prof. Dr. Lucas França Garcia no Programa de Pós-Graduação em Promoção da Saúde da Universidade Cesumar (UniCesumar). Financiamento: Bolsa de Produtividade do Instituto Cesumar de Ciência, Tecnologia e Inovação (ICETI-UniCesumar).

Recebido: 26 de Maio de 2021; Aceito: 25 de Outubro de 2022; : 14 de Fevereiro de 2023

Correspondencia. Evelise S. Duarte. Email: fagnersutel@outlook.com

Leonardo Pestillo de Oliveira. Email: leopestillo@gmail.com

Lucas França Garcia. Email: lucasfgarcia@gmail.com

Creative Commons License Este é um artigo publicado em acesso aberto sob uma licença Creative Commons