Matando O Bem-estar Algoritmicamente

ALGUMAS das mais proeminentes startups de IA, empresas tecnológicas, seus executivos, investigadores e engenheiros querem fazer-nos acreditar que a inteligência artificial (IA) representa um risco existencial para a humanidade e deve ser considerada um risco social equivalente às pandemias e às guerras nucleares. Sob a propaganda egoísta de modelos de IA superinteligentes desonestos (os modelos atuais estão longe de se aproximar da inteligência humana), os modelos de IA impulsionados por governos que perseguem agendas neoliberais agressivas e interesses corporativos monopolistas estão prejudicando a sociedade e a humanidade de forma muito mais formas mundanas, muitas vezes visando os pobres e as minorias étnicas e religiosas.

Bappa Sinha

DOIS MODELOS MAU DE BEM-ESTAR DE IA

Duas notícias recentes publicadas na Al Jazeera ilustram vividamente o que foi dito acima. A primeira história é sobre um sistema baseado em IA chamado “Samagra Vedika”, que está sendo usado em Telangana ostensivamente para filtrar beneficiários inelegíveis da assistência social, mas desqualificou erroneamente milhares de indivíduos elegíveis. Inicialmente introduzido pelo governo anterior de Bharat Rashtra Samithi (BRS), este sistema pretende consolidar os dados dos cidadãos de vários bancos de dados governamentais para construir perfis digitais abrangentes, apelidados de “visões de 360 graus”. Os funcionários do governo foram obrigados a consultar o sistema baseado em algoritmos para determinar a elegibilidade dos requerentes de assistência social. Originalmente utilizado pela polícia estatal para identificar criminosos, o sistema é agora amplamente utilizado pelo governo estadual para verificar a elegibilidade dos requerentes de assistência social e para detectar “fraude” em vários regimes de assistência social, incluindo a iniciativa de segurança alimentar. Entre 2014 e 2019, Telangana cancelou mais de 1,86 milhões de cartões de segurança alimentar existentes e rejeitou 1,042 milhões novos pedidos sem qualquer aviso prévio. O governo atribuiu inicialmente estas ações a pedidos fraudulentos de subsídios, afirmando poupanças de custos significativas decorrentes da exclusão de beneficiários inelegíveis. Mas, na realidade, vários milhares destas exclusões foram feitas de forma errada, devido a dados defeituosos e más decisões algorítmicas da Samagra Vedika. Uma vez excluídos, recai sobre os beneficiários removidos o óônus de provar que tinham direito a alimentos subsidiados e outros programas de bem-estar. Mesmo quando o faziam, as autoridades muitas vezes favoreciam a decisão do algoritmo. Isto causou dificuldades incalculáveis e a negação do sustento básico aos setores muito pobres e mais vulneráveis da sociedade.

Outra história dos mesmos autores documentou as dificuldades dos beneficiários de pensões de velhice em Haryana. Em 2020, o governo de Haryana introduziu um sistema algorítmico – o Repositório de Dados de Identidade Familiar ou a base de dados Parivar Pehchan Patra (PPP) – para determinar a elegibilidade dos requerentes de assistência social. O PPP é um documento de identidade exclusivo de oito dígitos fornecido a cada família no estado e contém detalhes de nascimento e óbito, casamento, emprego, propriedade e imposto de renda dos membros da família, entre outros dados. Mapeia as informações demográficas e socioeconômicas de cada família, ligando várias bases de dados governamentais para verificar a sua elegibilidade para regimes de assistência social. O estado disse que o PPP criou “dados autênticos, verificados e confiáveis de todas as famílias” e tornou obrigatório o acesso dos cidadãos a todos os regimes de assistência social. Mas, na prática, o PPP tem sido um desastre para muitos beneficiários da assistência social. Milhares destes beneficiários foram injustamente declarados mortos, quer devido a dados incorretos introduzidos na base de dados do PPP, quer devido a previsões erradas feitas pelo algoritmo. De acordo com dados do governo apresentados na assembleia estadual em Agosto passado, suspendeu as pensões de 277.115 cidadãos idosos e 52.479 viúvas num período de três anos porque estavam “mortos”. Tais anomalias não se restringiam apenas às pensões de velhice. Os beneficiários de pensões de invalidez e de viúva e de outros regimes de segurança social, como alimentos subsidiados, também foram excluídos porque o algoritmo PPP fez previsões erradas sobre os seus rendimentos ou emprego, excluindo-os dos critérios de elegibilidade. Quando aqueles apagados indevidamente pelo algoritmo foram até autoridades do governo para corrigir os registros, eles enfrentaram burocracia. Muitos foram transferidos de um escritório para outro e obrigados a apresentar intermináveis requerimentos para provar que estavam, de fato, vivos!

A provação enfrentada por centenas de milhares de cidadãos para corrigir os seus dados fez do PPP um dos planos governamentais mais controversos do governo de Haryana nos últimos anos. O partido da oposição rotulou-o de ‘Permanent Pareshani Patra (Plano de Problema Permanente)‘. No entanto, o governo do estado continua a defender e a expandir o programa, afirmando que o “PPP estava a facilitar e a melhorar a prestação de serviços aos beneficiários certos e a prevenir fugas através do uso de inteligência artificial e aprendizagem automática. A interligação de diferentes bases de dados foi feita para obter uma base de dados integrada que fosse a ‘única fonte de verdade’”.

AGENDA DE NEGAÇÃO DE BEM-ESTAR

Estas histórias ilustram claramente a verdadeira agenda por detrás da implantação destes sistemas, nomeadamente cortar programas de assistência social e beneficiários elegíveis, que deixam os mais pobres e vulneráveis à mercê de sistemas opacos, enquanto se escondem atrás da máscara de “alta tecnologia para melhorar a prestação de assistência social”. Vemos a utilização prejudicial, mas crescente, destas soluções baseadas na tecnologia na prestação de assistência social em todo o país, incluindo no pagamento de salários do MGNREGA, nos regimes de segurança alimentar, nos sistemas de saúde pública e numa série de regimes de assistência social. Há, portanto, uma necessidade premente de sensibilizar o público sobre a natureza perniciosa e a verdadeira agenda por detrás de tais medidas e também de começar a mobilizar os movimentos populares para exigir a desmantelamento de tais sistemas desumanos. Nos locais onde os governos progressistas chegam ao poder, precisam de ter cuidado ao abraçar tais soluções promovidas por burocratas cativados por apresentações tecnológicas engenhosas e influenciados por ideologias neoliberais.

peoplesdemocracy.in