Etarismo na inteligência artificial

Em fevereiro de 2022 a OMS apresentou o relatório “Ageísmo em inteligência artificial para a saúde” que decorreu do exame sobre o uso de inteligência artificial na medicina e na saúde pública para as pessoas idosas.

Nesta análise foram apresentadas as condições em que a Inteligência Artificial pode exacerbar ou introduzir novas formas de etarismo. Apresenta, também, medidas legais, não legais e técnicas que podem ser usadas para minimizar o risco do idadismo, e, ainda, maximizar os benefícios dessas tecnologias aos sêniores.

Neste artigo apresentarei uma síntese deste relatório/guia, o qual deve ser lido em sua íntegra.

O que é Inteligência Artificial

“A inteligência artificial (IA) é a capacidade que uma máquina para reproduzir competências semelhantes às humanas como é o caso do raciocínio, a aprendizagem, o planeamento e a criatividade.

A IA permite que os sistemas informatizados percebam o ambiente que os rodeia, lidem com o que percebem e resolvam problemas, agindo no sentido de alcançar um objetivo específico.”

Riscos do Etarismo no Design e no Uso das Tecnologias para a Saúde

Embora as tecnologias de IA existam para melhorar os cuidados de saúde para as pessoas de mais idade, para que isso verdadeiramente aconteça é preciso assegurar que as tecnologias não extrapolem os seus objetivos.

O preconceito etário na codificação, a discriminação na elaboração e uso da tecnologia de IA pode, por exemplo:

• Prejudicar a qualidade dos cuidados de saúde aos idosos;
• reduzir a interação intergeracional;
• Limitar o uso benéfico de tecnologias de IA;
• Assumir suposições muitas vezes erradas sobre como os idosos desejam viver ou interagir com a tecnologia no seu dia a dia.

“A codificação de estereótipos, preconceitos, discriminação e idadismo na tecnologia de IA, ou sua manifestação em seu uso, podem minar a qualidade dos cuidados de saúde para idosos”.

Para exemplificar ainda mais este uso nocivo, é importante lembrar que a Inteligência Artificial nos programas informatizados pode influenciar as decisões sobre a priorização ou alocação de recursos para os cuidados clínicos das pessoas.

A OMS enfatizou em seu relatório os benefícios dos sistemas de IA no atendimento de idosos, no entanto, alertou a importância da constante atenção aos desafios éticos que decorrem do uso desses sistemas.

Etarismo pode ser codificado em dados

Big data e os dados biomédicos são eticamente, e cientificamente, importantes para as tecnologias com Inteligência Artificial. No entanto, esses conjuntos de dados usados para “treinar” os modelos de IA (big data) geralmente excluem as pessoas idosas, que acabam fazendo parte de um conjunto de dados "minoritário". São excluídas apesar de representarem o maior grupo de pessoas que utilizam os serviços de saúde.

Esta exclusão pode introduzir vieses, especialmente nas tecnologias de IA para a saúde das pessoas de maior idade.

Os dados de saúde gerados a partir de outras fontes, incluindo ensaios clínicos, também tendem a excluir ou sub-representar os mais velhos no conjunto de dados. Portanto, se o algoritmo de uma tecnologia de IA predominantemente considerar dados de populações mais jovens, esta levará a diagnósticos ou previsões incorretas quando usados para uma população de idosos.

 

Design Exclusivo

O design de uma tecnologia de IA, incluindo como e quem o projeta, pode também determinar se ele estará contaminado pelo etarismo.

Equipes de projeto não podem considerar raciocínios preconceituosos quanto à idade em suas práticas.

Os preconceitos existentes refletem quem financia e projeta uma tecnologia de IA.

A exclusão unilateral dos idosos, desempodera-os como um grupo, e perpetua a sua exclusão nas tecnologias de IA, minando gradualmente os esforços para mudar as atitudes sociais em relação aos mais velhos.

A tendência é projetar em nome de pessoas mais velhas em vez de com pessoas mais velhas.

Oito considerações para maximizar os benefícios das tecnologias e IA e evitar o etarismo

Para garantir que as tecnologias de IA desempenhem um papel benéfico, o preconceito de idade deve ser identificado e eliminado de seu projeto, desenvolvimento e uso.

Para tanto, a Organização Mundial de Saúde elaborou oito considerações que podem garantir que as tecnologias de IA para a saúde não sejam etaristas, e que os sêniores sejam totalmente envolvidos nos processos, sistemas, tecnologias e serviços que lhes digam respeito. São elas:

1 - Design participativo nas tecnologias de IA feito por e com pessoas mais velhas:

Embora os idosos possam não estar envolvidos na concepção de tecnologias de IA a sua participação no design é necessária.

Fornecimento de oportunidades de treino e de educação para os idosos participar no design de tecnologias de IA, e garantir que as forças de trabalho mantenham programadores e designers de várias gerações concederiam um equilíbrio no grupo de criadores.

Esta inclusão também deve ser interseccional, focando não apenas na idade, mas também nas diferenças entre as pessoas mais velhas, como gênero, etnia, raça e habilidade (2).

2 - Equipes intergeracionais em Data Science:

Como os dados são críticos tanto no treino como na validação das tecnologias com IA, equipas de Data Science responsáveis por selecionar, validar e aplicar dados também devem ser inclusivas e bem equilibradas. A inclusão de pessoas maduras nessas equipas e a formação dos cientistas de dados para que reconheçam e superem as formas de preconceito de idade podem garantir que as tecnologias de IA sejam apropriadas e positivas.

3 - Coleta de dados com inclusão de idade:

Os programadores de IA devem garantir que os dados sejam precisos, completos e diversificados, inclusive quanto às faixas etárias. Se um determinado grupo, como o das pessoas mais velhas, está sub-representado em um conjunto de dados.

Em alguns países, foram tomadas medidas para que essas comunidades supervisionem seus dados por meio de cooperativas de dados, onde os membros estabelecem padrões éticos, desenvolvem ferramentas e aplicativos que garantam que os dados os incluem corretamente.

4 - Investimentos em infraestrutura digital e alfabetização para idosos e seus prestadores de cuidados de saúde e cuidadores:

Mesmo que as tecnologias de IA para a saúde sejam desenvolvidas adequadamente para idosos, seu uso pode ser limitado na ausência de infraestrutura digital adequada. Falta de infra-estrutura digital também poderia contribuir para a predominante crença de que os idosos não usam tecnologias (ou IA) e, portanto, não precisam ser contabilizados.

As tecnologias de IA devem ser mantidas como meio de auxiliar de tomada de decisão pelo homem e assegurar que os humanos, em última análise, sejam, de fato, quem tomam as decisões críticas.

5 - Direitos dos idosos de consentir e contestar:

As pessoas mais velhas devem poder exercer a escolha e fornecer consentimento para:

• o uso das tecnologias com Inteligência Artificial;
• como as tecnologias devem ser usadas (além ou em vez de cuidados e tratamentos fornecidos por profissionais médicos e cuidadores);
• retirar os seus consentimentos do uso de tecnologias de IA no fornecimento de cuidados, apoio e suporte.

6 - Estruturas de governança e regulamentos para capacitar e trabalhar com idosos:

À medida que novos regulamentos são introduzidos para fornecer uma estrutura para avaliar, financiar, aprovar e usar tecnologias de IA para a saúde, a governança e o aparato regulatório não devem repetir práticas excludentes e anti-idade que possam afetar o design de tecnologias de IA para a saúde.

Regras devem estar em vigor para garantir que os governos, agências, organizações não governamentais, setor privado e as parcerias público-privadas possam trabalhar com esta população mai velha, desencorajar ou identificar o preconceito de idade e garantir procedimentos para lidar com o envelhecimento e as suas consequências.

As pessoas mais velhas devem estar envolvidas em comitês de ética, agências e outros organismos intergovernamentais que definam regras e padrões para o uso da Inteligência Artificial.

7 - Pesquisa aprofundada:

A cada nova aplicação ou uso de IA surgem desafios éticos que devem ser estudados e avaliados antes de sua adoção generalizada.

8 - Processos éticos robustos:

É preciso que haja um robusto processo de análise ética, especialmente nas universidades, organizações sem fins lucrativos e empresas que projetam tecnologias de IA, a fim de que orientem o desenvolvimento e a aplicação de sistemas de interesse das pessoas idosas.

Sobre a autora - Silvia Triboni - silvia.triboni@gmail.com

Editora e produtora de conteúdo sobre longevidade, envelhecimento ativo e economia da longevidade no site Across Seven Seas, canal Youtube