A evolução da inteligência artificial na medicina, impulsionada pela transição dos tradicionais modelos de linguagem única (LLMs) para sistemas multiagentes, vem ampliando o potencial de eficiência e precisão nas análises clínicas. Contudo, o avanço tecnológico traz novos desafios relacionados à governança, responsabilidade e segurança no uso dessas ferramentas no setor de saúde.
Os chamados sistemas multiagentes funcionam como um
ecossistema de inteligências artificiais especializadas que interagem entre si
para executar tarefas complexas. Em um ambiente hospitalar, por exemplo, uma IA
pode analisar o prontuário do paciente, enquanto outra interpreta exames de
imagem e uma terceira cruza possíveis interações medicamentosas para auxiliar
na definição de um tratamento.
Segundo Ernani Teixeira Ribeiro Jr., sócio do Atra
Advogados e especialista em negócios digitais e gestão legal de riscos em IA, o
modelo representa uma espécie de “junta médica digital”. “Não estamos mais diante
de uma única IA operando de forma isolada, mas de vários agentes autônomos
especializados colaborando entre si para apoiar a tomada de decisão médica”,
afirma.
O especialista ressalta que os ganhos em escala, redução
de custos e aumento da precisão diagnóstica são evidentes, mas alerta que o uso
dessas tecnologias sem uma estrutura robusta de conformidade pode gerar riscos
operacionais e jurídicos relevantes. “Objetivos como eficiência e
produtividade, sem acompanhamento adequado sobre governança, ética e segurança,
podem levar tanto à perda de investimentos quanto ao uso inadequado da
tecnologia”, diz.
A discussão ganha ainda mais relevância com a entrada em
vigor da Resolução CFM nº 2.454/2026, que estabelece prazo de 180 dias para que
instituições de saúde implementem mecanismos de governança no uso de soluções
de inteligência artificial. A norma prevê temas como transparência,
rastreabilidade, contestabilidade e mapeamento do uso de IA em hospitais e
clínicas.
Embora a resolução determine que a inteligência artificial
deve atuar apenas como ferramenta de apoio, mantendo a decisão final sob
responsabilidade do médico, Ernani avalia que os sistemas multiagentes tornam o
cenário mais complexo. “Como um profissional poderá supervisionar integralmente
uma decisão construída por diferentes IAs conversando entre si em linguagem de
máquina? Esse é um dos grandes desafios regulatórios e operacionais que surgem
nesse novo contexto”, explica.
Para o advogado, práticas como mapeamento de dados pessoais,
implementação de modelos de Privacy by Default, gestão estruturada de riscos em
IA e controle da entrada e saída de dados deixam de ser conceitos teóricos e
passam a integrar requisitos essenciais para o funcionamento seguro dessas
soluções.
Ele defende ainda que projetos de IA na saúde sejam
desenvolvidos de forma multidisciplinar, integrando áreas jurídicas, segurança
da informação, tecnologia e gestão de riscos desde a fase inicial. “Não se
trata de frear a inovação, mas de estruturá-la. Instituições de saúde precisam
adotar metodologias de avaliação prévia que considerem impacto em direitos
fundamentais, viabilidade técnica e aspectos éticos antes da implementação
dessas ferramentas”, afirma.
A criação de Comissões de IA e Telemedicina, prevista nas novas exigências regulatórias, além da revisão de contratos com fornecedores de tecnologia e do treinamento contínuo do corpo clínico, também passa a ser vista como parte da estratégia de governança das instituições.
“Na era dos sistemas multiagentes, a governança estruturada será o elemento capaz de garantir que toda essa conexão entre inteligências artificiais seja auditável, segura e, acima de tudo, centrada no paciente e no respeito à relação médico-paciente”, conclui Ernani Teixeira Ribeiro Jr.
Nenhum comentário:
Postar um comentário