Matando o bem-estar algoritmicamente

ALGUMAS das mais proeminentes startups de IA, empresas tecnológicas, seus executivos, investigadores e engenheiros querem fazer-nos acreditar que a inteligência artificial (IA) representa um risco existencial para a humanidade e deve ser considerada um risco social equivalente às pandemias e às guerras nucleares. Sob a propaganda egoísta de modelos de IA superinteligentes desonestos (os modelos atuais estão longe de se aproximar da inteligência humana), os modelos de IA impulsionados por governos que perseguem agendas neoliberais agressivas e interesses corporativos monopolistas estão prejudicando a sociedade e a humanidade de forma muito mais formas mundanas, muitas vezes visando os pobres e as minorias étnicas e religiosas.

Inteligência artificial

Bappa Sinha

DOIS  MODELOS MAU DE BEM-ESTAR DE IA

Duas notícias recentes publicadas na Al Jazeera ilustram vividamente o que foi dito acima. A primeira história é sobre um sistema baseado em IA chamado “Samagra Vedika”, que está sendo usado em Telangana ostensivamente para filtrar beneficiários inelegíveis da assistência social, mas desqualificou erroneamente milhares de indivíduos elegíveis. Inicialmente introduzido pelo governo anterior de Bharat Rashtra Samithi (BRS), este sistema pretende consolidar os dados dos cidadãos de vários bancos de dados governamentais para construir perfis digitais abrangentes, apelidados de “visões de 360 ​​graus”. Os funcionários do governo foram obrigados a consultar o sistema baseado em algoritmos para determinar a elegibilidade dos requerentes de assistência social. Originalmente utilizado pela polícia estatal para identificar criminosos, o sistema é agora amplamente utilizado pelo governo estadual para verificar a elegibilidade dos requerentes de assistência social e para detectar “fraude” em vários regimes de assistência social, incluindo a iniciativa de segurança alimentar. Entre 2014 e 2019, Telangana cancelou mais de 1,86 milhões de cartões de segurança alimentar existentes e rejeitou 1,042 milhões novos pedidos sem qualquer aviso prévio. O governo atribuiu inicialmente estas ações a pedidos fraudulentos de subsídios, afirmando poupanças de custos significativas decorrentes da exclusão de beneficiários inelegíveis. Mas, na realidade, vários milhares destas exclusões foram feitas de forma errada, devido a dados defeituosos e más decisões algorítmicas da Samagra Vedika. Uma vez excluídos, recai sobre os beneficiários removidos o óônus de provar que tinham direito a alimentos subsidiados e outros programas de bem-estar. Mesmo quando o faziam, as autoridades muitas vezes favoreciam a decisão do algoritmo. Isto causou dificuldades incalculáveis ​​e a negação do sustento básico aos setores muito pobres e mais vulneráveis ​​da sociedade.

Outra história dos mesmos autores documentou as dificuldades dos beneficiários de pensões de velhice em Haryana. Em 2020, o governo de Haryana introduziu um sistema algorítmico – o Repositório de Dados de Identidade Familiar ou a base de dados Parivar Pehchan Patra (PPP) – para determinar a elegibilidade dos requerentes de assistência social. O PPP é um documento de identidade exclusivo de oito dígitos fornecido a cada família no estado e contém detalhes de nascimento e óbito, casamento, emprego, propriedade e imposto de renda dos membros da família, entre outros dados. Mapeia as informações demográficas e socioeconômicas de cada família, ligando várias bases de dados governamentais para verificar a sua elegibilidade para regimes de assistência social. O estado disse que o PPP criou “dados autênticos, verificados e confiáveis ​​de todas as famílias” e tornou obrigatório o acesso dos cidadãos a todos os regimes de assistência social. Mas, na prática, o PPP tem sido um desastre para muitos beneficiários da assistência social. Milhares destes beneficiários foram injustamente declarados mortos, quer devido a dados incorretos introduzidos na base de dados do PPP, quer devido a previsões erradas feitas pelo algoritmo. De acordo com dados do governo apresentados na assembleia estadual em Agosto passado, suspendeu as pensões de 277.115 cidadãos idosos e 52.479 viúvas num período de três anos porque estavam “mortos”. Tais anomalias não se restringiam apenas às pensões de velhice. Os beneficiários de pensões de invalidez e de viúva e de outros regimes de segurança social, como alimentos subsidiados, também foram excluídos porque o algoritmo PPP fez previsões erradas sobre os seus rendimentos ou emprego, excluindo-os dos critérios de elegibilidade. Quando aqueles apagados indevidamente pelo algoritmo foram até autoridades do governo para corrigir os registros, eles enfrentaram burocracia. Muitos foram transferidos de um escritório para outro e obrigados a apresentar intermináveis ​​requerimentos para provar que estavam, de fato, vivos!

A provação enfrentada por centenas de milhares de cidadãos para corrigir os seus dados fez do PPP um dos planos governamentais mais controversos do governo de Haryana nos últimos anos. O partido da oposição rotulou-o de ‘Permanent Pareshani Patra (Plano de Problema Permanente)‘. No entanto, o governo do estado continua a defender e a expandir o programa, afirmando que o “PPP estava a facilitar e a melhorar a prestação de serviços aos beneficiários certos e a prevenir fugas através do uso de inteligência artificial e aprendizagem automática. A interligação de diferentes bases de dados foi feita para obter uma base de dados integrada que fosse a ‘única fonte de verdade’”.

AGENDA DE NEGAÇÃO DE BEM-ESTAR 

Estas histórias ilustram claramente a verdadeira agenda por detrás da implantação destes sistemas, nomeadamente cortar programas de assistência social e beneficiários elegíveis, que deixam os mais pobres e vulneráveis ​​à mercê de sistemas opacos, enquanto se escondem atrás da máscara de “alta tecnologia para melhorar a prestação de assistência social”. Vemos a utilização prejudicial, mas crescente, destas soluções baseadas na tecnologia na prestação de assistência social em todo o país, incluindo no pagamento de salários do MGNREGA, nos regimes de segurança alimentar, nos sistemas de saúde pública e numa série de regimes de assistência social. Há, portanto, uma necessidade premente de sensibilizar o público sobre a natureza perniciosa e a verdadeira agenda por detrás de tais medidas e também de começar a mobilizar os movimentos populares para exigir a desmantelamento de tais sistemas desumanos. Nos locais onde os governos progressistas chegam ao poder, precisam de ter cuidado ao abraçar tais soluções promovidas por burocratas cativados por apresentações tecnológicas engenhosas e influenciados por ideologias neoliberais.

peoplesdemocracy.in

 

Related Posts
A cultura humana está mudando rápido demais para que a evolução a acompanhe. E isso afeta a todos nós
fotos

As pesquisas mostram que muitos dos nossos problemas contemporâneos, como a prevalência crescente de problemas de saúde mental, estão surgindo do rápido avanço [...]

Os animais se automedicam com plantas – comportamento que as pessoas têm observado e imitado há milênios
fotos

Adrienne Mayor Quando um orangotango selvagem de Sumatra sofreu recentemente um ferimento facial, aparentemente após brigar com outro macho, ele [...]

A Rússia criou um gel para reparo ósseo
fotos

O primeiro gel bioassimilável do mundo para regeneração, que permite restaurar o tecido ósseo com 100% de compatibilidade e tratar, [...]

A gripe H5N1 pode ser a próxima pandemia?
fotos

Animais e seres humanos compartilham cerca de 300 doenças infecciosas, e novas doenças surgem todos os anos. De acordo com [...]

‘Doença X’: o mundo deve se preparar para uma nova pandemia que pode matar 20 vezes mais que o coronavírus
fotos

A Organização Mundial da Saúde usa o termo “Doença X” para se referir a uma infecção com potencial para causar [...]

Carbono azul: aquecimento dos oceanos ameaça plâncton e clima do planeta
fotos

Grande parte do ar que respiramos é produzido nos oceanos por criaturas que nem enxergamos. Um trabalho feito de forma [...]

Compartilhar:

Deixe um comentário

error: Content is protected !!