Preconceitos embutidos em sistemas de inteligência artificial (IA), cada vez mais usados na área da saúde, correm o risco de aprofundar a discriminação contra os idosos, alertou a Organização Mundial da Saúde (OMS) na última quarta-feira.
Segundo a agência de saúde da ONU, as tecnologias de IA têm um enorme potencial para melhorar o atendimento aos idosos, mas também apresentam riscos significativos. "A codificação de estereótipos, preconceitos, discriminação e idadismo na tecnologia de IA, ou sua manifestação em seu uso, podem minar a qualidade dos cuidados de saúde para idosos".
O resumo da ONU destacou como os sistemas de IA dependem de grandes conjuntos de dados históricos com informações sobre pessoas coletadas, compartilhadas, mescladas e analisadas muitas vezes de forma discriminatória. Os próprios conjuntos de dados podem trazer preconceitos existentes em ambientes de saúde, onde as práticas contra o envelhecimento são generalizadas.
A médica Vania de la Fuente Nunez, da unidade de Envelhecimento Saudável da OMS, apontou as práticas observadas durante a pandemia de Covid-19 de permitir que a idade de um paciente determinasse se ele poderia acessar oxigênio ou um leito em uma unidade de terapia intensiva lotada. Se esses padrões discriminatórios forem refletidos nos conjuntos de dados usados para treinar algoritmos de IA, eles podem se tornar estruturais.
Os algoritmos de IA podem consolidar as disparidades existentes nos cuidados de saúde e “discriminar sistematicamente em uma escala muito maior”, alertou a ONU. Além disso, os conjuntos de dados usados para treinar algoritmos de IA geralmente excluem ou sub-representam significativamente os idosos. Como os diagnósticos de saúde produzidos são baseados em dados de pessoas mais jovens, eles podem errar o alvo para populações mais velhas.
Enquanto isso, a ONU enfatizou que existem benefícios reais a serem obtidos com os sistemas de IA no atendimento de idosos, inclusive para monitoramento remoto de pessoas suscetíveis a quedas ou outras emergências de saúde. As tecnologias de IA podem imitar a supervisão humana coletando dados sobre indivíduos de monitores e sensores vestíveis incorporados em objetos, como relógios inteligentes. Eles podem compensar a falta de pessoal, garantir a coleta contínua de dados e oferecer a possibilidade de uma melhor análise preditiva da progressão da doença e dos riscos à saúde.
Aqueles que projetam e testam novas tecnologias de IA voltadas para o setor de saúde também correm o risco de refletir atitudes contra o envelhecimento generalizadas na sociedade, especialmente porque os idosos raramente são incluídos no processo.
Confira a publicação Ageism in artificial intelligence for health.
Rubens de Fraga Júnior é professor da disciplina de gerontologia da Faculdade Evangélica Mackenzie do Paraná e é médico especialista em geriatria e gerontologia pela SBGG.
