Preconceitos embutidos em sistemas de
inteligência artificial (IA), cada vez mais usados na
área da saúde, correm o risco
de aprofundar a discriminação contra os
idosos, alertou a Organização Mundial da Saúde (OMS) na última
quarta-feira.
Segundo a agência de saúde da ONU, as
tecnologias de IA têm um enorme potencial para melhorar o atendimento aos
idosos, mas também apresentam riscos significativos. "A codificação de
estereótipos, preconceitos, discriminação e idadismo na tecnologia de IA, ou
sua manifestação em seu uso, podem minar a qualidade dos cuidados de saúde para
idosos".
O resumo da ONU destacou como os
sistemas de IA dependem de grandes conjuntos de dados históricos com
informações sobre pessoas coletadas, compartilhadas, mescladas e analisadas
muitas vezes de forma discriminatória. Os próprios conjuntos de dados podem
trazer preconceitos existentes em ambientes de saúde, onde as práticas contra o
envelhecimento são generalizadas.
A médica Vania de la Fuente Nunez, da
unidade de Envelhecimento Saudável da OMS, apontou as práticas observadas
durante a pandemia de Covid-19 de permitir que a idade de um paciente
determinasse se ele poderia acessar oxigênio ou um leito em uma unidade de
terapia intensiva lotada. Se esses padrões discriminatórios forem refletidos
nos conjuntos de dados usados para treinar algoritmos de IA, eles podem se tornar
estruturais.
Os algoritmos de IA podem consolidar as
disparidades existentes nos cuidados de saúde e “discriminar sistematicamente
em uma escala muito maior”, alertou a ONU. Além disso, os conjuntos de dados
usados para
treinar algoritmos de IA geralmente excluem ou sub-representam
significativamente os idosos. Como os diagnósticos
de saúde produzidos são baseados em dados de pessoas mais jovens, eles podem errar
o alvo para populações mais velhas.
Enquanto isso, a ONU enfatizou que
existem benefícios reais a serem obtidos com os sistemas de IA no atendimento
de idosos, inclusive para monitoramento remoto de pessoas suscetíveis a quedas
ou outras emergências de saúde. As tecnologias de IA podem imitar a supervisão
humana coletando dados sobre indivíduos de monitores e sensores vestíveis
incorporados em objetos, como relógios inteligentes. Eles podem compensar a
falta de pessoal, garantir a coleta contínua de dados e oferecer a
possibilidade de uma melhor análise preditiva da progressão da doença e dos
riscos à saúde.
Aqueles que projetam e testam novas
tecnologias de IA voltadas para o setor de saúde também correm o risco de
refletir atitudes contra o envelhecimento generalizadas na sociedade, especialmente
porque os idosos raramente são incluídos no processo.
Rubens de Fraga Júnior - professor da disciplina de gerontologia da Faculdade Evangélica Mackenzie do Paraná e é médico especialista em geriatria e gerontologia pela SBGG
Fonte: https://www.who.int/publications/i/item/9789240040793
Nenhum comentário:
Postar um comentário