O médico pode ir longe no uso da inteligência artificial generativa, mas não além da sua capacidade de avaliar criticamente o que ela lhe entrega. Apesar dos inúmeros benefícios, existem riscos relevantes, como omissões e alucinações. Quanto menos familiar for o território, maior deve ser a exigência de evidências, rastreabilidade e validação antes que uma informação produzida pela tecnologia influencie uma decisão clínica.
Esse talvez seja um dos princípios mais importantes
para incorporar inteligência artificial à medicina. A discussão não deveria
estar concentrada apenas em quanto a tecnologia é capaz de fazer, mas em quais
condições podemos utilizar aquilo que ela produz. Afinal, uma resposta rápida,
convincente e bem formulada não é necessariamente uma resposta correta.
Há uma imagem que ajuda a compreender essa fronteira. Podemos
pensar no conhecimento médico como uma ilha cercada pelo mar.
No centro dessa ilha está o território que o médico conhece
profundamente: a prática cotidiana, os diagnósticos frequentes, os protocolos
que utiliza e o repertório construído ao longo da formação e da experiência
clínica. Nesse espaço, a IA pode apoiar atividades como organização de
informações, documentação e ganho de eficiência, mas não substitui o
conhecimento clínico nem necessariamente acrescenta valor à tomada de decisão.
Ao redor da ilha está a água clara na área mais rasa e acessível.
É o conhecimento que o médico possui, mas não acessa todos os dias: o nome de
uma medicação pouco utilizada, um diagnóstico diferencial ou detalhes de
determinado protocolo. Aqui, ferramentas de IA generativa podem funcionar como
um mecanismo rápido de recuperação e organização da informação. A diferença
fundamental é que o profissional possui repertório para avaliar criticamente o
resultado, identificar inconsistências e recorrer à fonte original, quando
necessário.
O cenário muda quando a água fica escura, mais distante da ilha.
Estamos falando de diagnósticos raros, condições pouco conhecidas ou temas
distantes da especialidade daquele profissional. A IA pode ajudar a levantar
hipóteses, organizar possibilidades ou apontar caminhos para investigação, mas
a resposta produzida passa a exigir um grau muito maior de verificação. Quanto
menor o domínio prévio sobre o assunto, menor também é a capacidade de
identificar uma informação plausível, porém incorreta.
É nesse ponto que a discussão sobre inteligência artificial na medicina
deixa de ser apenas tecnológica. O problema não está simplesmente em utilizar
ou não utilizar IA, mas em reconhecer que diferentes situações exigem
diferentes níveis de supervisão, validação e evidência.
Essa lógica também deveria orientar instituições de saúde na
adoção dessas tecnologias. O indicador de maturidade não é quantas soluções com
inteligência artificial foram incorporadas, mas qual problema elas resolvem e
como seu impacto é medido. Ganho de tempo na jornada do paciente, redução da carga
cognitiva e administrativa, qualidade da documentação, segurança assistencial e
desfechos clínicos são exemplos de resultados que podem ser avaliados, desde
que exista metodologia adequada para estabelecer o impacto de cada aplicação.
Intervenção digital, por si só, não transforma a saúde. Incorporar
uma solução digital a um processo que já funciona adequadamente apenas porque
ela carrega o selo de inteligência artificial pode acrescentar complexidade sem
necessariamente produzir valor. Tecnologia é um meio, e sua utilidade depende
do problema que estamos tentando resolver.
Por isso, talvez a melhor medida para determinar até onde um
médico pode mergulhar nesse mar não esteja na sofisticação da ferramenta, mas
na capacidade de verificar aquilo que encontra pelo caminho. Na água clara, o
conhecimento prévio do profissional permite avaliar criticamente a resposta. Na
água escura, são necessárias outras âncoras: evidência científica, fontes
verificáveis, protocolos, discussão com especialistas e julgamento clínico.
A inteligência artificial pode ampliar significativamente o território que conseguimos explorar. Mas existe uma regra que não deveria mudar conforme a tecnologia evolui: quanto menor a capacidade de validar uma resposta, maior deve ser o cuidado antes de transformá-la em uma decisão sobre a saúde de alguém.
Dr. Kleber Araujo - médico e Chief Medical Information Officer da MV.
MV
www.mv.com.br
Nenhum comentário:
Postar um comentário