É possível que os tratamentos médicos causem dano aos pacientes? É evidente que sim, embora os efeitos colaterais das intervenções ainda sejam bastante subestimados. Mesmo que o risco inerente a qualquer intervenção médica seja surpreendente para muita gente, ele está sempre presente em maior ou menor grau. Assim, a arte da medicina consistiria em fazer com que os potenciais benefícios de qualquer tratamento superem os eventuais danos causados.
O termo “iatrogenia” se origina do grego iatrós, o qual significa médico ou curador. As iatrogenias se referem a todas as consequências – intencionais ou não – da atividade médica. Isso diz respeito tanto aos efeitos benéficos quanto prejudiciais da atividade médica, ainda que o termo seja usado na prática para se referir apenas aos danos causados pela medicina. Embora alguns textos definam a iatrogenia como sendo resultado da má prática, mesmo a atividade médica adequada pode causar danos aos pacientes, como quando alguém apresenta um efeito colateral imprevisível ao utilizar corretamente um medicamento bem indicado pelo profissional.
Para a sorte da população, a medicina sempre ofereceu uma espécie de proteção natural contra danos causados por erros relacionados a cuidados de saúde: a descentralização das decisões clínicas. Em um universo onde as decisões sejam tomadas em nível individual – ainda que “baseadas” em evidências de nível populacional – os eventuais danos secundários a essas decisões também ocorrem apenas em nível individual, o que diminui enormemente seu impacto na população como um todo. Além disso, como tendemos a aprender com nossos erros, podemos corrigi-los e deixar o sistema todo mais robusto.
Porém, vivemos uma época em que as coisas andam demasiadamente rápidas e onde aqueles que detêm riqueza e poder moldam as narrativas conforme seus interesses, o que nos pode levar à adoção de novas tecnologias sem que tenhamos um conhecimento adequado sobre elas. Este é o caso da chamada “inteligência artificial” (IA), tecnologia vendida como panaceia pela gananciosa turma do Vale do Silício, mas ainda em grande medida desconhecida por médicos e pacientes. Tal tecnologia, embora seja promissora, tem sido motivo de muita discussão, uma vez que a adoção apressada de uma tecnologia tão recente e cujas consequências são pouco previsíveis em médio e longo prazo é certamente uma preocupação em termos de segurança.
Um dos maiores problemas da adoção apressada das tecnologias de IA é a transferência de decisões clínicas importantes para algoritmos que funcionam de maneira centralizada e que são, em grande medida, refratários ao controle externo efetivo por estarem protegidos por algum tipo de sigilo comercial. Além disso, embora a recomendação formal seja de que toda conduta baseada em decisões da IA seja revisada pelo profissional responsável pelo caso – afinal de contas, é ele quem será responsabilizado em caso de complicações dessa conduta –, em nossa prática médica apressada atual, é pouco provável que os profissionais destinem o tempo e o cuidado necessários para uma avaliação parcimoniosa de tais decisões, o que traz um potencial enorme de danos em nível populacional.
Essa nova “IA-trogenia” seria então aquela iatrogenia médica já bem conhecida, mas agora turbinada pela potência computacional da IA e complicada pela impossibilidade prática de se avaliar adequadamente o embasamento teórico dessas decisões. A IA-trogenia consistiria em toda espécie de dano causado aos pacientes por decisões inadequadas tomadas com o uso de tecnologias de IA na medicina. Tais decisões equivocadas, embora sejam menos frequentes que os erros médicos pontuais que ocorrem em nível individual, carregariam um grande potencial para prejuízos catastróficos em grande escala. Um único erro de cálculo de um algoritmo de IA – isso sem falar nas famosas “alucinações da IA” – poderia prejudicar instantaneamente milhões de pessoas no mundo todo.
Enfim, aquela arte da parcimônia descrita no parágrafo inicial já parece estar esquecida e não está claro se a IA vai aumentar ou diminuir a segurança da medicina. E nesse mundo onde as decisões clínicas sejam tomadas pela IA sem uma avaliação adequada feita por seres humanos de carne, osso e algum discernimento, o futuro de médicos e pacientes já não parece tão brilhante. Além do risco evidente para a saúde das pessoas e a própria medicina, tais decisões também trazem consigo um potencial enorme de viés comercial embutido em seus opacos algoritmos. Apesar disso tudo, as pessoas parecem se importar cada vez menos, cegas para a realidade que as cerca e enfiadas cada vez mais na solidão viciante de suas telas. E a era da IA-trogenia está apenas começando.
andreislabao.com.br 