Custom services
Portuguese (pdf)
Article in xml format
Article references
Automatic translation
Send this article by e-mail
Cited by SciELO 
Cited by Google 
Similars in
SciELO 
Similars in Google 
Permalink
1. Introdução
Os sistemas de Inteligência Artificial (IA), embora datem da década de 1940, com as proposições teórico e práticas de Alan Turing (Marquis et al., 2020), são considerados uma tecnologia recente, ainda em construção (Ekmekci & Arda, 2020; Haenlein & Kaplan, 2019). Os sistemas de IA podem ser definidos como sistemas autônomos, que simulam, modelam, processos de tomada de decisão, baseados em inteligência humana (Johnson, 2019). Esses sistemas, ainda, podem ser supervisionados, ou autônomos; podendo ainda combinar outras tecnologias, como aprendizado de máquinas e redes neurais (Haenlein & Kaplan, 2019).
Embora date da década de 1940, os sistemas de IA ganham reconhecimento e aplicação prática somente nas últimas décadas, sobretudo a partir de 1990 (Haenlein & Kaplan, 2019). As suas aplicações variam desde sistemas automatizados e autônomos para tomada de decisões jurídicas; tomada de decisões no mercado de ações e bolsa de valores; automatização e optimização de processos gerenciais e industriais; bem como aplicações na área da saúde (Johnson, 2019; Kaul et al., 2020; Marquis et al., 2020).
Com relação às aplicações dos sistemas de IA no campo da saúde, podemos destacar algumas utilizações bastante consolidadas (Johnson, 2019), como a triagem de doenças transmissíveis, como por exemplo, na pandemia de COVID-19 (Martin et al., 2020; Soltan et al., 2021; Tsiknakis et al., 2020); monitoramento e vigilância em tempo real de informações na internet e nas redes sociais, em busca de focos de doenças e comportamentos de risco (Husnayain et al., 2020; Visweswaran et al., 2020; Woo et al., 2016); também é utilizada na leitura de exames laboratoriais e de imagem; bem como é utilizada no diagnóstico e prognóstico de algumas doenças (Chianca et al., 2021; Do et al., 2020; Faleiros et al., 2020; Weikert et al., 2020), como as cardíacas por exemplo (Lopez-Jimenez et al., 2020). Uma outra aplicação de sistemas de IA que vem ganhando espaço na última década são as relacionadas às tecnologias de mHealth e tecnologias vestíveis, também conhecidas como "wearables", na qual aplicativos de monitoramento de sinais vitais e variáveis de estilo de vida são coletadas por estes aplicativos e processados por sistemas de IA, que recomendam planos personalizados para a melhora da qualidade de vida e do bem-estar geral dos indivíduos, bem como recomenda ações práticas para mudanças no estilo de vida (Chianca et al., 2021; Yetisen et al., 2018; Zhang et al., 2020), sobretudo de doenças crônicas não transmissíveis (DCNT), no qual este é um fator importante para o seu controle.
Apesar de todos os benefícios associados apontados pela literatura especializada a respeito da utilização dos sistemas de IA, são muito os aspectos bioéticos que são levantados a respeito da sua utilização (Morley et al., 2020). Questões envolvendo o consentimento informado e o respeito às decisões autônomas dos indivíduos (Astromskė et al., 2020), a responsabilidade médica ou do profissional da saúde, bem como das instituições de assistência que se utilizam dessa tecnologia (Cath et al., 2018); ainda, questões relacionadas à governança dos dados coletados, ou seja, a privacidade e a confidencialidade desses dados, sejam por meio de prontuários eletrônicos ou aplicativos de monitoramento em smartphones (Baig et al., 2020; Price & Cohen, 2019; Reddy et al., 2020); além de questões envolvendo achados secundários, que podem ou não ter um impacto na terapêutica do paciente (Uusitalo et al., 2020). Desta forma, a bioética complexa, cujo o objetivo é "realizar uma reflexão complexa, compartilhada, interdisciplinar sobre a adequação das ações que envolvem a vida e o viver" faz-se necessária, enquanto enquadramento teórico, em razão das diversas facetas que a utilização dessas novas tecnologias no campo da saúde apresentam (Goldim, 2006, Goldim, 2009).
Apesar da crescente utilização destes sistemas, em diversas áreas do conhecimento, e em especial no campo da saúde, são poucos, entretanto, os estudos que abordam a percepção, opinião e atitudes de pessoas leigas e profissionais de diversas áreas a respeito da utilização dos sistemas de IA, sobretudo com relação às suas implicações éticas, sociais e legais (Blease et al., 2019; Liyanage et al., 2019a). Há uma quantidade considerável de estudos abordando aspectos técnicos e teóricos a respeito da governança eticamente adequada deste tipo de tecnologia, porém estudos empíricos ainda são escassos. Desta forma, este estudo teve como objetivo analisar, por meio de um estudo de métodos mistos, a percepção de usuários de redes sociais online a respeito da utilização de sistemas de IA no campo da saúde e os aspectos bioéticos associados a essa utilização.
2. Materiais e Métodos
2.1. Delineamento
Estudo de método mistos, do tipo descritivo-exploratório (Creswell & Clark, 2015).
2.2. Etapa 1: Estratégia de busca sistemática de informação
Na etapa 1 uma busca sistemática de informação foi realizada nos bancos de dados (Pubmed, Scielo, WoS, EBSCO) com os termos IA, healthcare, health promotion e bioethics, mapeando, assim, as IA utilizadas na aréa da saúde, cujo o objetivo foi a elaboração dos cenários de tomada de decisão.
2.3. Etapa 2: Elaboração dos cenários de tomada de decisão sobre a utilização da IA na promoção da saúde
Baseados na busca realizada na Etapa 1, realizamos a construção de cenários de tomada de decisões (bio)éticas sobre a utilização das IA nos diferentes campos da saúde, abordando os principais temas e utilizações dos sistemas de inteligência artificial identificados na Etapa 1. Por meio desses cenários construímos um questionário, que foi aplicado via Google Forms. A divulgação do mesmo foi feita nas redes sociais online Facebook(r), Instagram(r) e Whatsapp(r) . A utilização deste meio de coleta de dados deu-se por conta da pandemia de covid-19 e objetivamos avaliar a percepção dos usuários destas redes sociais a respeito da utilização de sistemas de IA em procedimentos assistenciais no campo da saúde. A utilização deste meio de coleta de dados deu-se por conta da pandemia de COVID-19, objetivando avaliar a percepção dos usuários destas redes sociais a respeito da utilização de sistemas de IA em procedimentos assistenciais no campo da saúde.
Abaixo apresentamos a descrição de cada um dos cenários abordados com os participantes da pesquisa. Os cenários tiveram como objetivo avaliar a percepção dos participantes do presente estudo com relação aos aspectos bioéticos associados à utilização de sistemas de inteligência artificial, tais como consentimento informado, relação médico paciente, privacidade e confidencialidade, responsabilidade profissional e institucional, bem como questões associadas ao risco da utilização deste tipo de tecnologia.
2.3.1. Cenário de tomada de decisão 1
Tema abordado: IA e consulta médica de consulta
Você se dirige até uma instituição de saúde para uma consulta médica de rotina. Esta instituição, bem como seu médico assistente, utiliza-se de prontuário eletrônico, integrado com os demais sistemas e serviços/setores/departamentos do hospital. Devido ao grande volume de dados coletados, esta instituição tem investido cada vez mais no processamento destes dados para que otimize o trabalho dos profissionais de saúde, bem como na melhora da qualidade da assistência prestada ao paciente.
Ao chegar na consulta, seu médico carrega seu prontuário e confirma as suas informações. Todos os seus dados, a partir deste momento, estão sendo analisados e processados e ao fim do seu atendimento o seu médico assistente faz as suas observações, personalizadas, baseadas nas recomendações processadas pelos sistemas de inteligência artificial da instituição.
A partir do exposto acima, que questões éticas você apontaria como importantes, considerando a utilização da inteligência artificial em uma consulta de rotina?
2.3.2. Cenário de tomada de decisão 2
Tema abordado: IA e coleta de dados em tempo real por meio de dispositivos inteligentes como smartphone e smartwatches
O uso de dispositivos inteligentes, que monitoram nossos sinais a todo momento, é cada vez mais difundido, seja por meio de dispositivos específicos como relógios inteligentes, ou até mesmo pelos smarthphones.
Com a massiva coleta destes dados de saúde e estilo de vida por parte de grandes corporações da área da tecnologia, como Google, Apple e Amazon, por exemplo, diversas aplicações têm emergido, cujo objetivo é a melhora da qualidade de vida dos indivíduos - e até mesmo com o objetivo de "mudar" o "estilo de vida" dos indivíduos, para estilos de vida considerados mais saudáveis.
Neste sentido, uma série de aplicativos visa entregar recomendações objetivas, práticas, personalizadas, por meio da análise de seus dados pessoais, coletados durante um certo período, e processados por meio de algoritmos e sistemas de inteligência artificial próprios destas corporações.
A partir do exposto acima, que questões éticas você apontaria como importantes, considerando a utilização da inteligência artificial por meio da coleta e processamento de dados oriundos de dispositivos inteligentes, como smarthphones e relógios, por exemplo?
2.3.3. Cenário de tomada de decisão 3
Tema abordado: IA e a interpretação de exames
Seu médico assistente solicita a você que faça uma série de exames de imagem e laboratório para confirmar ou refutar a hipótese diagnóstica X e recomenda que você faça esses exames no próprio hospital que você está sendo atendida, pois todos os sistemas são eletrônicos e integrados.
A maioria destes exames serão processados por máquinas que se utilizam de inteligência artificial. A partir deste processamento, informarão ao técnico responsável a respeito dos resultados e o técnico poderá endossar ou não estes resultados e informar os resultados dos exames no sistema.
Seus resultados retornaram de acordo com a hipótese diagnóstica do médico. A partir destes resultados, e da hipótese diagnóstica X, o sistema de inteligência artificial do hospital faz algumas recomendações ao médico assistente, de acordo com as informações fornecidas no sistema, que decide endossar as recomendações do sistema de inteligência artificial, considerando as informações concretas e sua experiência profissional.
A partir do exposto acima, que questões éticas você apontaria como importantes, considerando a utilização da inteligência artificial para o processamento de exames de imagem e de laboratório?
2.3.4. Cenário de tomada de decisão 4
Tema abordado: IA, interpretação de exames e achados secundários
Seu médico assistente solicita a você que faça uma série de exames de imagem e laboratório para confirmar ou refutar a hipótese diagnóstica X e recomenda que você faça esses exames no próprio hospital que você está sendo atendida, pois todos os sistemas são eletrônicos e integrados.
A maioria destes exames serão processados por máquinas que se utilizam de inteligência artificial. A partir deste processamento, informarão ao técnico responsável a respeito dos resultados e o técnico poderá endossar ou não estes resultados e informar os resultados dos exames no sistema.
Seus resultados retornaram de acordo com a hipótese do médico, Entrentanto, resultados não-esperados foram encontrados, que podem ser relevantes ou não, para a hipótese diagnóstica em questão. Este resultado não-esperado só foi possível devido ao sistema de inteligência artificial do sistema, que identificou um padrão nos resultados antes não identificado pela "inteligência humana".
A partir do exposto acima, que questões éticas você apontaria como importantes, considerando a utilização da inteligência artificial para o processamento de exames de imagem e de laboratório?
2.4. Análise de dados
Os dados quantitativos foram analisados por meio de estatística descritiva, com o auxílio do software SPSS 21(r), a fim de caracterizar a amostra do ponto de vista sociodemográfico, bem como caracterizar o perfil de tomada de decisão da amostra com relação às questões bioéticas associadas à utilização de sistemas de IA.
A análise dos dados qualitativos foi realizada por meio da análise temática de conteúdo de Bardin (Bardin, 2011). Foram observadas as três etapas da análise de conteúdo de Bardin (Bardin, 2011), quais sejam: a pré-análise, exploração do material e interpretação e tratamento dos resultados. A análise dos dados foi realizada com o auxílio do software de método mistos QSR NVIVO 12 para Windows (Bazeley, 2013; Bazeley & Jackson, 2013).
2.5. Aspectos éticos
O presente estudo foi avaliado e aprovado pelo Comitê de Ética em Pesquisa com Seres Humanos da Universidade Cesumar sob o CAEE nº 33771520.2.0000.5539. O processo de consentimento informado foi obtido eletronicamente, por meio de formulário do Google Forms, seguindo as orientações das Resoluções 466 de 2012 e 510 de 2016 do Conselho Nacional de Saúde (CNS) e Comissão Nacional de Ética em Pesquisa (CONEP).
3. Resultados
Este trabalho objetivou analisar, por meio de estudo de métodos mistos, a percepção de usuários de redes sociais online a respeito da utilização de sistemas de IA no campo da saúde e os aspectos bioéticos associados a esta utilização. Abaixo são apresentados os dados sociodemográficos dos participantes da pesquisa.
3.1. Caracterização da amostra
A amostra foi comporta por 39 participantes, cuja idade média foi de 39 anos, com desvio padrão de +13 anos, e idade variando de 22 a 67 anos. Com relação à faixa etária, 56% (n=22) encontram-se na faixa entre os 20 e 39 anos; 33,3% (n=13) entre a dos 40 e 59 anos; e 10,3% (n=4) na faixa dos 60 anos ou mais. Além disto, a maioria é do sexo feminino, 69,2% (n=27) e se autodeclaram da cor branca, 82,1% (n=32), de acordo com as categorias do IBGE. Com relação ao estado civil, 61,5% (n=24) declararam estar casados e 33,3% (n=13) solteiros no momento da pesquisa. Com relação à escolaridade a maioria dos participantes, 89,7% (n=35) possuíam ensino superior completo, sendo professor (25,6%, n=10), cirurgião-dentista (10,3%, n=4), advogado (10,3%, n=4) as profissões mais frequentes (tabela 1).
Tabela 1. Dados sociodemográficos dos participantes do presente estudo.
*De acordo com as categorias do IBGE.
Com o objetivo de avaliar se os participantes tinham conhecimento prévio a respeito do que seriam os sistemas de IA, 71,8% (n=28) afirmaram que possuíam conhecimento prévio a respeito do que é essa tecnologia. Quando indagados se estes mesmos sistemas de IA poderiam impactar a relação médico-paciente, a grande maioria afirmou que sim, 97,4% (n=38). Por fim, quando perguntados se acreditavam que os sistemas de IA seriam utilizados numa perspectiva especializada ou holística, 56,4% (n=22) respondeu a primeira opção, enquanto 43,6% (n=17), respondeu a segunda.
Com relação à análise de conteúdo realizada com base nas respostas à pergunta "o que é inteligência artificial para você?" as principais definições dadas relacionavam a inteligência artificial com programas de computador, que são capazes de realizar atividades ou tarefas humanas por meio do processamento de informações e algoritmos (Figura 1).
Figura 1. 20 palavras mais frequentemente utilizadas pelos participantes da pesquisa para caracterizar o que é inteligência artificial.
A seguir, apresentamos algumas falas utilizadas pelos participantes da pesquisa com o intuito de definir o que é inteligência artificial:
"É um conglomerado de tecnologias que simulação o pensamento humano".
"É uso da tecnologia, uso de máquinas pra realizarmos tarefas humanas".
"Sistemas computacionais capazes de realizar tarefas e tomar decisões a partir de algoritmos".
"São programas de computador capazes de estabelecer determinados resultados de acordo com as informações inseridas em seus bancos de dados. Os resultados obtidos dependem do problema que se pretende solucionar, da forma como a inteligência artificial foi programada e dos dados disponíveis".
O cenário 1 teve como objetivo analisar a percepção dos participantes da pesquisa com a relação à utilização de sistemas de IA numa consulta médica de rotina. Quando questionados a respeito de quais questões bioéticas identificavam como associadas a utilização dessa tecnologia no ambiente de uma consulta de rotina, os participantes demostraram preocupação com a privacidade e a confidencialidade dos dados coletados no caso descrito (92,3%); além disto, demonstraram preocupação com questões relacionadas à responsabilidade profissional e institucional pela utilização desta tecnologia, no âmbito da saúde (71,8%); por fim, o consentimento informado aparece como terceira maior preocupação relacionada aos aspectos bioéticos da utilização dos sistemas de IA em uma consulta médica de rotina (66,7%). É importante ressaltar que os participantes poderiam marcar mais de uma resposta a esta questão, portanto um mesmo participante pode ter marcado mais de uma alternativa.
Figura 2: Preocupações éticas apontadas pelos participantes da pesquisa com relação à utilização de sistemas de IA numa consulta médica de rotina.
Quando questionados os motivos pelos quais estas eram suas preocupações éticas os participantes da pesquisa mencionaram que a segurança na proteção da confidencialidade e da privacidade de seus dados era o tópico mais sensível, enfatizando a possibilidade da quebra da confidencialidade desses dados por meio de ataques cibernéticos e vazamento dos mesmos a terceiros; ainda, apontam a responsabilidade da instituição na proteção destes dados, bem como também mencionam o consentimento informado no sentido de saberem que um sistema de IA está sendo utilizado para processar suas informações médicas. A seguir são apresentadas algumas falas relacionadas ao cenário 1:
"Privacidade e Confidencialidade, pois não teria segurança em como a instituição bloquearia o acesso de outras pessoas aos meus dados ou conteria possíveis vazamentos de informações".
"Vazamento de informações privadas para terceiros e, além disso, eventual "venda" dos meus dados na internet".
"Consentimento Informado. Todos temos o direito de saber como o médico chegou a uma conclusão".
"Consentimento do paciente, considerando que os dados são processados e analisados por uma máquina, não foi informado o risco comparativo a erros possíveis pela análise do médico"
O cenário 2 teve como objetivo analisar a percepção dos participantes da pesquisa com a relação à utilização de sistemas de IA em dispositivos inteligentes, como smarthphones e smartwatches, e aplicativos de mudança de estilo de vida. Quando perguntados à respeito da utilização de dados pessoais por aplicativos baseados em sistema de IA, cuja meta é a mudança de hábitos e do estilo de vida, os participantes também demonstraram preocupação, em primeiro lugar, com as questões de privacidade e confidencialidade no uso desses dados (76,9%); em segundo lugar, preocupação com questões relacionados ao consentimento informado na origem da coleta de dados por estes dispositivos e aplicativos (66,7%); e por fim, demonstraram, também, preocupação com relação à responsabilidade pelas recomendações dadas por esses aplicados (48,7%).
Figura 3: Preocupações éticas apontadas pelos participantes da pesquisa com relação à utilização de sistemas de IA e apps de mudança de hábitos e de estilo de vida.
Quando questionados os motivos pelos quais estas eram suas preocupações éticas associadas à utilização de sistemas de IA em apps de monitoramento e de mudança de estilo de vida, os participantes da pesquisa mencionaram novamente que a segurança proteção e guarda dos dados coletados em tempo real e de forma constante como sendo o aspecto bioético mais sensível, enfatizando a possibilidade da utilização destes dados de forma indevida, ou seja, para fins que não os definidos no escopo dos aplicativos; ainda, mencionam questão do "direito de saber" que dados seus estão sendo utilizados e para que finalidade, bem como a questão do consentimento informado. A seguir são apresentadas algumas falas relacionadas ao cenário 2:
"Privacidade, considerando o potencial uso destas informações de forma indevida e sem o consentimento realmente informado".
"Privacidade e Confidencialidade, pois não teria segurança em como o aplicativo estaria processando as informações e com quem meus dados são compartilhados".
"Privacidade e Confidencialidade. Todos temos o direito de saber quais são os dados que estão sendo coletados".
"Considerando o consentimento informado daquele que utiliza o aplicativo já com o intuito de uma melhora na qualidade de vida, acredito que a responsabilidade do fornecedor do aplicativo ou daquele que coleta e processa os dados mediante inteligência artificial seja a maior preocupação ética neste caso, tendo em vista o risco que assume ao "induzir" o consumidor a praticar determinados hábitos ditos como saudáveis".
O cenário 3 teve como objetivo analisar a percepção dos participantes da pesquisa com a relação à utilização de sistemas de IA no processamento e interpretação de exames de imagem e laboratoriais. Quando perguntados a respeito da utilização de sistemas de IA no processamento de tais exames, sejam laboratoriais ou de imagem, as duas maiores preocupações dos participantes foram a responsabilidade e a confiança, ambas com 79,5%, cada. Ainda, demonstraram preocupações relacionadas ao risco associado a este tipo de atividade, bem como a questões de privacidade e confidencialidade dos dados coletados e processados pelos sistemas de IA, ambas com 33,3%, cada.
Figura 4: Preocupações éticas apontadas pelos participantes da pesquisa com relação à utilização de sistemas de IA na interpretação de exames laboratoriais e de imagen.
Quando questionados os motivos pelos quais estas eram suas preocupações éticas associadas à utilização de sistemas de IA na leitura, processamento e interpretação de exames de imagem e laboratoriais, os participantes da pesquisa mencionaram a responsabilidade do profissional no sentido de endossar a análise e resultados do sistema de IA, não se sobrepondo a decisão do profissional da área; além disto, mencionam também justificativas relacionadas à confiança, no sentido do processo todo ter sido conduzido pela máquina, bem como com relação à acurácia destes resultados e possíveis erros. A seguir são apresentadas algumas falas relacionadas ao cenário 3:
"Responsabilidade. Uso de sistemas de inteligência artificial na elaboração de diagnósticos pode induzir o médico a abdicar da sua responsabilidade quanto aos mesmos".
"Responsabilidade, os dados oriundos da inteligência artificial não devem sobrepor a decisão do profissional, visto veste tem a oportunidade de fazer análise clínica do paciente".
"Confiança, pois não teria como saber se os resultados dos exames foram de fato analisados por uma pessoa e se as sugestões da IA são o melhor para o tratamento".
"Confiança, o processamento de dados pode induzir a erros, ele deve ser testado exaustivamente e não dispensa um profissional adequadamente qualificado".
O cenário 4 teve como objetivo analisar a percepção dos participantes da pesquisa com a relação à utilização de sistemas de IA no processamento e interpretação de exames de imagem e laboratoriais, no cenário de achados secundários, que poderiam ou não ter significado clínico junto à hipótese diagnóstica. Quando perguntados sobre as principais preocupações com relação aos achados secundários, ou seja, achados não esperados, a principal resposta foi a preocupação com a confiança deste resultado (84,6%), seguida da responsabilidade associada a este achado, relevante ou não clinicamente (74,4%); e por fim, preocupações com relação à privacidade e confidencialidade desses dados.
Figura 5: Preocupações éticas apontadas pelos participantes da pesquisa com relação à utilização de sistemas de IA na interpretação de exames laboratoriais e de imagem e achados secundários à hipótese diagnóstica.
Quando questionados os motivos pelos quais estas eram suas preocupações éticas associadas à utilização de sistemas de IA na leitura, processamento e interpretação de exames de imagem e laboratoriais e achados secundários, os participantes da pesquisa mencionaram novamente confiança e a responsabilidade do profissional perante a esses achados secundários e seu possível significado clínico. A seguir são apresentadas algumas falas relacionadas ao cenário 4:
"A maior preocupação ética neste caso encontra-se na responsabilidade médica ao averiguar os novos padrões encontrados nos resultados dos exames realizados, a fim de colocar em prática o que realmente deve ser feito para a melhora do paciente".
"O padrão pode ser fruto de uma associação espúria, com significância estatística, mas sem relevância clinica".
"O discernimento do médico para aceitar ou refutar as informações da IA, de acordo com o quadro clínico do paciente".
"Principalmente responsabilidade do resultado do possível exame, bem como a confiabilidade dessa hipótese diagnóstica".
4. Discussão
A utilização de sistemas de IA no campo da saúde tem sido cada vez mais difundida e defendida (Emanuel & Wachter, 2019; Racine et al., 2019), seja por grupos de pacientes, associações hospitalares ou grandes empresas da área de tecnologia. Embora sejam promissoras as aplicações dos sistemas de IA desde à atenção primária até a cirurgia robótica (Ayoub & Pulijala, 2019; Blease et al., 2019; Lin et al., 2019; Liyanage et al., 2019b), são muitas as questões éticas suscitadas pela utilização desta tecnologia (Morley et al., 2020), cujo um dos objetivos é a simulação da inteligência humana em processos de tomada de decisão no campo da saúde. Neste sentido, a bioética complexa surge como uma ferramenta teórica metodológica importante para pensarmos esta questão, uma vez que esta tem como finalidade realizar uma "reflexão complexa, compartilhada e interdisciplinar sobre as ações que envolvem a vida e o viver (Goldim, 2006, 2009)". Na perspectiva da bioética complexa podemos utilizar sete referenciais teóricos da ética para analisar as questões bioéticas associadas à utilização de sistemas de IA no campo da saúde, quais seja, a ética das virtudes, de Aristóteles; a ética das intenções, de Pedro Abelardo; a ética utilitarista, de Mill e Bentham; a ética dos princípios, de Beauchamp e Childress; a ética dos direitos humanos, de Marshall; bem como a ética da responsabilidade, de Hans Jonas e a ética da alteridade de Emanuel Levinas (Goldim, 2006, 2009).
Liyanage et. al. (Liyanage et al., 2019b) em estudo cujo objetivo foi estabelecer um consenso a respeito da utilização de sistemas de IA na atenção primária em saúde (APS), realizou painel de juízes, por meio da metodologia Delphi, para avaliar a percepção, atitudes, opiniões e desafios da implementação dessa tecnologia na APS. Os autores identificaram quatro temáticas predominantes durante os painéis, quais sejam, (1) utilização da IA para melhorar o processo de tomada de decisão na APS, (2) utilização da IA para o reconhecimento de padrões no processamento e interpretação de exames de imagem, (3) utilização da IA para modelos preditivos para desenvolvimento de determinadas doenças por meio de dados coletados na APS e (4) utilização da IA para análises de mercado para provedores de cuidados em APS. As questões ética levantadas pelo painel de especialistas foram (1) os sistemas de IA atualmente disponíveis ainda não são suficientemente competentes para substituir o componente humano no processo de tomada de decisão clínica; (2) o risco de erro medico associado a utilização acrítica dessa tecnologia; (3) o risco de vieses humanos de base na programação destes sistemas; e (4) o risco de consequências e efeitos não previstos da utilização dos sistemas de IA, como a utilização inadvertida por seguradoras de saúde sem o conhecimento e consentimento do cliente. Blease et al. (Blease et al., 2019) em survey realizada com clínicos gerais na Inglaterra avaliaram as atitudes e opiniões destes com relação a utilização dos sistemas de IA e a especificidade da utilização destes. As questões éticas levantadas pelos participantes do estudo foram a (1) a falta de empatia e a importância da relação face-a-face na relação médico-paciente; (2) ceticismo com relação à capacidade de raciocínio clínico dos sistemas de IA; (3) cinismo com relação à capacidade dessa tecnologia prover cuidados que respeitem as preferencias, necessidade e valores do paciente no processo de tomada de decisão. Embora nosso estudo não tenha sido realizado com uma população de especialistas, como o de Liyanage et al. (Liyanage et al., 2019b) e Blease et al (Blease et al., 2019), foi possível observar que os participantes da pesquisa na sua maioria tinham conhecimento prévio a respeito do que é a IA, bem como as definiram como sistemas que simulam a capacidade ou inteligência humana de tomar decisões, reconhecendo potencialidades e limitações na utilização desta tecnologia. Além disto, a maioria também respondeu que acredita que a utilização de sistemas de IA no campo da saúde terá impacto na relação médico-paciente, bem como a utilização desta tecnologia tende ser feito dentro de um escopo especializado, em contraposição a uma abordagem holística do paciente.
A utilização de sistemas de IA no cenário de consultas médicas de rotina, bem como na utilização de dados por aplicativos de mudança de hábitos e estilo de vida, trouxe como questões centrais a privacidade e confidencialidade no tratamento dos dados sensíveis das pessoas, bem como questões relacionadas à responsabilidade profissional e o processo de consentimento informado na utilização desta tecnologia. A preocupação com a privacidade dos usuários de sistemas de saúde, bem como pacientes de instituições do campo da saúde, é uma das principais questões discutidas na literatura, sobretudo relacionada a possíveis violações da privacidade dos indivíduos (Morley et al., 2020; Price & Cohen, 2019). Neste sentido Price II e Cohen (Price & Cohen, 2019) propõem formas de trabalhar de forma eticamente adequada respeitando a privacidade do paciente, quando da utilização de sistemas de IA. Os autores ressaltam a importância do processo de consentimento informado, no sentido de informar as pessoas a respeito de como esses dados serão utilizados, para quais objetivos e de que forma serão armazenados. Propõem ainda a proposição de dois tipos de consentimento informado, um específico, para determinada situação, e outro ampliado, para usos múltiplos, para garantir a privacidade destes dados no âmbito da saúde. Por fim, propõe um modelo de governança compartilhada entre diferentes profissionais, baseado nos princípios de equidade, justiça e consentimento informado. Johnson (Johnson, 2019), analisando a legislação de países anglo-saxões, identifica que países como EUA, Reino Unido, Australia, por exemplo, já preveem, em suas Legislações, a forma como os sistemas de IA devem ser administrados e que princípios éticos, legais e sociais devem nortear a sua utilização. No Brasil, é importante mencionar a Lei Geral de Proteção de Dados (LGPD) de 14 de Agosto de 2018 (Brasil, 2018) que dispõe sobre
"o tratamento de dados pessoais, inclusive nos meios digitais, por pessoa natural ou por pessoa jurídica de direito público ou privado, com o objetivo de proteger os direitos fundamentais de liberdade e de privacidade e o livre desenvolvimento da personalidade da pessoa natural"
Ainda em relação à privacidade e confidencialidade é importante ressaltar que Bandman e Bandman (Bandman & Bandman, 1984) e a Declaração de Bioética e Direitos Humanos da UNESCO (UNESCO, 2009) já colocam a privacidade como um direito humano das pessoas humanas e o dever que instituições e profissionais de diferentes áreas, especialmente as da saúde, tem com relação a manutenção da confidencialidade dos dados sensíveis dos pacientes e usuários dos sistemas de saúde. O que o cenário dos sistemas de IA nos colocam como desafios é justamente como garantir a privacidade como um direito humano, dentro de uma governança eticamente adequada e orientada para o bem comum, como proposto por Floridi et al. (Floridi et al., 2018) no projeto "AI4People". O consentimento informado é uns principais princípios da bioética (T. Beauchamp, 2010; T. L. Beauchamp & Childress, 2013). Os pacientes e usuários de aplicativos de mudança de hábitos e estilo de vida tem o direito de serem informados a respeito de quais dados serão coletados, de que forma serão armazenados e processados (Astromskė et al., 2020). Neste sentido, a utilização de sistemas de IA por profissionais da área da saúde deve estar orientada para o esclarecimento do paciente a respeito dos benefícios e de possíveis riscos associados a utilização desta tecnologia.
A utilização de sistemas de IA no processamento e interpretação de exames laboratoriais e de imagens já está bem estabelecida na comunidade biomédica (Cui & Zhang, 2021; Oren et al., 2020; Tang, 2020). Assim como observado nas respostas dos participantes de nossa pesquisa, as principais questões éticas apontadas pela literatura estão associadas à responsabilidade e à confiança no processamento destes exames pelos sistemas de IA (Larson et al., 2020). A responsabilidade pode ser discutida, no contexto das novas tecnologias no campo da saúde, na perspectiva tanto dos profissionais que se utilizam destas tecnologias, quanto da responsabilidade que as empresas que desenvolvem essas tecnologias, especialmente estas que realizam a interpretação de dados de imagens e laboratoriais (Cath et al., 2018; Coeckelbergh, 2020; Risling & Low, 2019). É importante notar que, de acordo com a perspectiva da alteridade de Emanual Levinas, todos somos corresponsáveis neste contexto, profissionais, sociedade, paciente (Goldim, 2016; Jonas, 2006). Desta forma, ressalta-se a importância de sistemas de governança, compartilhados, por diferentes profissionais e atores sociais, cuja finalidade é monitorar, constantemente, a utilização de sistemas de IA no campo da saúde e apurar eventuais erros e adequações ao processo, buscando sempre trabalhar na lógica da responsabilidade prospectiva, ou seja, na identificação da causa do erro, para que novos erros semelhantes não aconteçam (Goldim, 2016; Jonas, 2006).
5. Considerações Finais
Diante do número escasso de estudos empíricos avaliando a percepção, opinião e atitudes de profissionais, pacientes e público em geral a respeito da utilização de sistemas de IA no campo da saúde, este estudo objetivou analisar, por meio de um estudo de métodos mistos, a percepção de usuários de redes sociais online a respeito da utilização de sistemas de IA no campo da saúde e os respectivos aspectos bioéticos associados a essa utilização.
Foi possível observar, na amostra estudada, que:
Os participantes da pesquisa demonstram ter conhecimento sobre o que são os sistemas de IA e quais as suas principais aplicações;
Além disto, acreditam que os sistemas de IA provocaram mudanças na relação médico-paciente, e percebem que a utilização dessa tecnologia pode intensificar o olhar especializado sobre as condições clínicas do paciente
Com relação as principais questões éticas levantadas pelos participantes da presente pesquisa, destaca-se a preocupação com a privacidade e confidencialidade, com o processo de consentimento, com a atribuição de responsabilidade na utilização dos sistemas de IA, nos cenários de consulta médica de rotina, uso de dados por aplicativos de dispositivos inteligentes e processamento de imagens e exames laboratoriais por sistemas de IA
Desta forma, destaca-se a importância de novos estudos empíricos do tipo survey avaliando a percepção, atitudes e opiniões de públicos especializados, como profissionais da área da saúde, do direito, das humanidades, a fim de se obter evidências concretas para a elaboração de programas de gestão e governança dos sistemas de IA, sobretudo no cenário brasileiro, de escassez de recursos. Além disto, estas evidências podem servir de elementos para a criação de programas de educação em saúde para o esclarecimento da população a respeito da utilização destas tecnologias e seus benefícios e riscos associados.
