1) O que significa para a humanidade que as máquinas sejam chamadas de inteligentes?
2) Essas promessas se concretizaram? e
3) Quem foi ou é prejudicado nesse processo?
A IA é o espelho ideal para os ricos, feito pelos ricos para manter seu status, mas os pobres são um espelho real para a sociedade das lutas que ainda enfrentamos, lutas que demandam que trabalhemos juntos para resolvê-las com todas as vozes ouvidas.
Desigualdade tecnológica: IA e a experiência da pobreza
O comentário é de Mayla R. Boguslav, pesquisadora com pós-doutorado em Matemática pela Colorado State University, nos Estados Unidos. O artigo foi publicado em AI and Faith, 03-07-2024. A tradução é de Moisés Sbardelotto.
Eis o texto.
Em seu novo livro “Poor Technology: Artificial Intelligence and the Experience of Poverty” [Tecnologia pobre: inteligência artificial e a experiência da pobreza, em tradução livre], Levi Checketts afirma, acertadamente, que “o mundo está quebrado” (p. 185).
Pobreza, guerra, fome, polarização, pandemias etc. têm atormentado o mundo, especialmente nos últimos anos. Uma solução apresentada foi a inteligência artificial (IA): uma máquina que exibe inteligência humana.
Ela “promete uma vida melhor por meio de uma tecnologia inteligente. Ela revolucionará todos os aspectos da indústria... mudará o nosso lazer... aprimorará a nossa governança... melhorará os nossos resultados de saúde... tornará todos nós ricos” (p. XXIII).
Levi faz perguntas importantes sobre essa solução:
1) O que significa para a humanidade que as máquinas sejam chamadas de inteligentes?
2) Essas promessas se concretizaram? e
3) Quem foi ou é prejudicado nesse processo?
Ele explora essas questões por meio das lentes da pobreza e oferece outra solução: escutar as histórias dos pobres a fim de viver uma vida com dignidade.
O livro “Poor Technology” começa com a história da IA, da Inteligência Artificial Geral (AGI) até a riqueza por trás dela (capítulo 1). As teorias de Gottfried Wilhelm Leibniz, Claude Shannon e Alan Turing afirmam que uma máquina pode abrigar informações, que as informações podem ser reduzidas a um padrão de sequências binárias, e que os computadores digitais são máquinas que podem simular quaisquer outras máquinas (Máquina de Turing Universal).
Considerando que os humanos são simplesmente máquinas, você obtém a AGI: uma máquina com uma mente “humana” baseada na matemática. Para implementar essa visão, os cientistas da computação tiveram que responder a perguntas sobre a senciência e a consciência, acreditando que a AGI pode conhecer a verdade (Checketts usa “AGI” e “IA” de forma intercambiável): “A IA também pressupõe que haja um método universalmente válido para entender o universo” (p. 20).
Eles finalmente se estabeleceram na inteligência, pois ela é quantificável (por exemplo, o teste de QI). No entanto, as pessoas rapidamente perceberam a dificuldade em fazer a AGI e então se concentraram na IA Estreita: máquinas que podem realizar algumas partes de uma mente humana, como responder a perguntas, interpretar imagens médicas etc.
IA e classe privilegiada
“As afirmações ‘objetivas’ da IA não só tendem a ser do âmbito de uma classe privilegiada dentro da sociedade, especialmente dos homens brancos, mas também são, elas mesmas, perspectivas controversas de dentro da tradição filosófica ocidental (em grande parte masculina)” (p. 25). Os ricos controlam a IA.
A IA promete um mundo melhor, incluindo uma maior riqueza, mas, nesse processo, conservou muitos vieses sociais (capítulo 2). “Os pesquisadores de IA esperam que a IA supere as fraquezas morais humanas e os pontos cegos intelectuais” (p. 30), mas isso não aconteceu.
Dados ruins de entrada significam dados ruins de saída. Por exemplo, o software projetado para reconhecer rostos humanos categorizou rostos afro-americanos como os de animais (chimpanzés) e não de humanos, replicando um racismo horrível. Além disso, todo o esforço da ciência da computação é profundamente tendencioso em termos de gênero – um “computador” inicialmente descrevia um trabalho ocupado principalmente por mulheres; somente quando a “computação” se tornou um trabalho masculino é que ela foi associada à inteligência. As mulheres são vistas como inferiores (veja o capítulo 2 para mais exemplos.)
O livro “Weapons of Math Destruction” [Armas de destruição matemática, em tradução livre], de Cathy O’Neil, mergulha fundo nos preconceitos reproduzidos pelas máquinas. Esses exemplos levantam a questão do status moral das máquinas e de quem é o culpado por esses vieses.
Um preconceito não muito mencionado na literatura é o dos pobres, e Checketts se propõe a entender a perspectiva deles em relação à IA.
Para fazer isso, é preciso entender os objetivos da IA. Uma promessa da IA é economizar dinheiro maximizando os lucros, por meio do aumento da eficiência (capítulo 3). Quem vê o dinheiro economizado? Não o trabalhador médio, porque “a maximização do lucro depende inteiramente da venda de produtos por um valor maior do que o do custo de produção” (p. 76). O salário do trabalhador médio é parte do custo de produção de um item, e, portanto, o objetivo é minimizar o custo de produção, incluindo o custo de compensação dos trabalhadores.
As máquinas substituem os humanos, deixando os trabalhadores sem empregos e mais empobrecidos. A meta é reduzir a inteligência dos humanos a números, a fim de criar uma IA que possa fazer a tarefa. “A inteligência artificial geral, então, é o fetiche dos fetiches. É o sonho, a fantasia, na verdade, da classe capitalista. Ela converte todas as informações reais em números” (p. 80).
Trabalhadores reduzidos a números
Não apenas os trabalhadores são reduzidos a números, mas os pobres, especialmente, também são vistos como “desvalorizados”. Os pobres são um espelho para os ricos do que eles não querem se tornar. Em uma sociedade capitalista, o dinheiro é valorizado, e, portanto, os pobres são desvalorizados.
“O destino dos fabricantes globais substituídos pela automação, as doações de caridade dirigidas à ‘segurança da IA’ em vez do alívio da pobreza, a inscrição algorítmica do viés estrutural, o racismo ambiental perpetuado na luta por minerais de terras raras e pelo consumo massivo de energia, e todos os incontáveis pobres que são tratados como dispensáveis no processo de treinamento de dados são todas questões urgentes deixadas de lado em favor de elogios triunfais aos ganhos de capital prometidos pela IA” (p. 81).
As condições de trabalho são insuportáveis, e muitas grandes corporações como a Amazon defendem vigorosamente políticas antitrabalhistas. Muito dinheiro está indo para a IA, mas ela realmente resolveu os problemas da humanidade, especialmente a pobreza? Os pobres têm voz para compartilhar suas preocupações?
Os ricos lutam contra os trabalhadores, escolhendo a história a ser contada sobre os pobres em relação à IA “objetiva”: “A natureza ‘objetiva’ das IAs que realizam essas tarefas no lugar de humanos fracos mostra que os pobres são os próprios culpados... Então, empresas de tecnologia poderosas que deslocam, policiam e empobrecem os pobres são consideradas ‘inovadoras’ em seu uso da tecnologia (o imaginário sociotécnico), e os pobres são considerados moralmente deficientes” (p. 83).
Perpetua-se a história de que os ricos conquistaram o seu lugar e de que os pobres merecem o deles. Essa narrativa mantém a divisão entre ricos e pobres. Somente se os pobres estiverem dispostos a jogar segundo as regras da sociedade (estabelecidas pelos ricos) é que eles terão um valor permitido.
As políticas até entram nesse jogo: Checketts argumenta que “toda política projetada para ajudar os pobres é envolta em requisitos e políticas projetadas para impor os valores burgueses contra os pobres. Se os pobres forem mais suscetíveis ao abuso de substâncias, os políticos dos Estados Unidos promulgarão testes de drogas para os beneficiários de assistência social (apesar de isso ser mais dispendioso)” (p. 85). Os pobres não conseguem contar sua história, mas ela é escrita para eles pelo capitalismo.
Checketts pretende compartilhar as realidades da pobreza (capítulo 4). Ele compartilha sua própria história de pobreza no prefácio. A “definição básica de pobreza empregada nesta obra é a escassez ou a insegurança em relação aos recursos necessários” (p. 92). Mesmo com essa definição, Checketts luta para contar a história devido a um “paradoxo: seja qual for a medida que possamos usar, os piores da sociedade estão fadados a ser aqueles cujas realidades não podem ser postas em palavras” (p. 94). Os pobres não têm voz nem nome. Só ouvimos as histórias a partir da perspectiva dos ricos.
A prioridade de sobreviver
Ele continua afirmando que quatro características nos ajudam a entender a pobreza: falta de recursos, gostos cultivados, mentalidade de sobrevivência e consciência econômica (p. 97). Os pobres experimentam um mundo que não é ditado por eles, mas pelos ricos. Recursos, gostos, mentalidade e dinheiro são fortemente influenciados pela sociedade, que determina como “ajudar” os pobres, os quais, então, se tornam ainda mais definidos por sua falta de escolha e por sua mentalidade de curto prazo.
Sobreviver hoje em dia é sempre uma prioridade, e cada pessoa pega o que pode pagar, não importa o que seja: “Muitos indivíduos pobres estão dispostos a fazer o que for preciso para sobreviver. Assim, o crime contra a propriedade acompanha positivamente a desigualdade econômica. No entanto, o crime violento, não” (p. 120).
Essas generalidades não fazem justiça às experiências dos pobres, e, portanto, outras pessoas contaram suas narrativas por meio do cinema, incluindo as séries “Round 6” e “Trailer Park Boys”, os filmes “LadyBird: a hora de voar” e “Parasita” etc. Precisamos continuar ouvindo essas histórias.
A partir dessas histórias, Checketts levanta a questão: “Assim como o equivalente tecnológico ao Santo Graal, a IA oferece uma saída para esse sistema ou é apenas a ferramenta mais recente para reforçar as epistemologias burguesas?” (p. 126).
Ele acha que “talvez a visão da IA que cumpre todas as fantasias consumistas possa ser reimaginada com uma IA que empodere os pobres a se defenderem, a garantirem melhores salários e a viverem livres da dominação burguesa” (p. 126). A IA pode ser uma ferramenta poderosa para ajudar o mundo quebrado se for usada em prol da humanidade e não focada em maximizar os lucros.
Ao mesmo tempo, os pobres tentaram se levantar no passado (ludismo), e não só falharam, mas também foram banidos pela lei (capítulo 5). Checketts afirma: “A IA é para os interesses dos ricos” (p. 131). Isso levanta a questão sobre se a IA resultará em um desfecho justo. Seja qual for a resposta, trata-se de um desfecho justo a partir da perspectiva de quem é mais bem servido pelo capitalismo e pela IA.
No entanto, podemos recorrer à religião para nos ajudar a focar nos pobres. Muitas religiões e filósofos promovem a ajuda a quem não tem meios. O judaísmo tem muitos mitzvot (mandamentos) específicos sobre os pobres, incluindo que os agricultores deixem toda sobra ou produto esquecido e os cantos de seus campos para que os pobres possam recolher algo (disponível em inglês aqui). O cristianismo também afirma: “Bem-aventurados os pobres, porque deles é o reino de Deus” (Lucas 6,20) (p. 133).
O filósofo Friedrich Nietzche também afirma que a Bíblia é uma inversão da moral dos fortes: “O pobre é aquele que deve ser reverenciado contra os poderosos e soberanos” (p. 133). Talvez o mais palpável disso seja Jon Sobrino ao ecoar Ignacio Ellacuria comparando a “civilização da pobreza” e o estilo laissez-faire da “civilização da riqueza” dos Estados Unidos (p. 138).
Civilização da pobreza
A civilização da pobreza “não busca o crescimento infinito ou a aquisição de capital; ela prioriza atender a todos os direitos humanos e a promover o florescimento ecológico e comunitário... O consumidor é substituído pelo cidadão” (p. 138). A IA faz parte da civilização dos ricos: “O futuro brilhante da automação nada mais é do que uma fantasia do consumidor, em que todo prazer é de alguma forma satisfeito sem nenhum custo, em que as máquinas mantêm tudo automaticamente, em que todos os problemas são resolvidos por meio da ciência e da tecnologia, em que o nosso poder é ilimitado. Em uma palavra, é uma fantasia utópica. Mas é uma utopia contada pela imaginação empobrecida da classe alta industrial” (p. 139).
Por outro lado, a civilização da pobreza é “uma civilização em que as vozes dos pobres são elevadas, em que as necessidades humanas são atendidas, e em que o lucro é subordinado à justiça, como um corretivo necessário ao modo desumano como os pobres experimentam o mundo. Essa visão é tão utópica quanto a fantasia da IA, mas a utopia da civilização dos pobres é mais autêntica para a tradição cristã. Essa visão parte das promessas que Deus nos revela: os últimos serão os primeiros, toda lágrima será enxugada, as nações do mundo se reunirão em uma só” (pp. 139-140). A religião foca na unidade, buscando ver a humanidade. Checketts argumenta que a humanidade precisa se mover rumo à civilização da pobreza a fim de ajudar a consertar o mundo quebrado.
Os pobres vivem suas vidas e reconhecem que há mais na vida do que matemática e informação. Eles não buscam criar a si mesmos à sua própria imagem, como os cientistas da computação criaram a IA à sua imagem (veja a tabela abaixo). Quer você atribua o mistério da vida a Deus ou a qualquer outra coisa, a AGI visa a matematizar o belo mistério da humanidade, da consciência e da inteligência. A matemática não pode resolver tudo.
O Unabomber era um prodígio da matemática: “A mente matemática, afiada para ver problemas como solucionáveis apenas em números puros, não poderia permanecer de pé contra a realidade bruta da existência humana – a crueldade das crianças violentas, a perversidade da ciência sem ética… o cálculo mecânico frio que pendura etiquetas de preço na natureza inestimável” (p. 163).
Chamar máquinas de humanas e/ou conceder direitos a máquinas enquanto outras pessoas não recebem o mesmo status moral (incluindo os pobres, as pessoas com deficiência etc.) é problemático (conclusão). “Quanto mais o modelo epistemológico da IA é reforçado como normativo, a epistemologia dos pobres é ainda mais difamada. Dizer que a IA é “consciente”, que merece direitos humanos ou que deve receber autonomia legal é fazer uma reivindicação que nem sempre é dada aos pobres” (p. 177). Todos os humanos têm direito à dignidade, e ela não é definida pela inteligência.
Conclusão
O mundo está polarizado em muitos aspectos, e, mesmo assim, as pessoas que não têm escolhas sobre como viver (como os pobres) acreditam em coisas maiores do que elas mesmas. Nós, como humanidade, precisamos parar de tentar dominar o mundo e, em vez disso, viver e ajudar uns aos outros.
Quando o mundo desmoronou durante a pandemia da Covid-19, pelo menos no começo, a maioria das pessoas se mobilizou para ajudar umas às outras e não se importou com as diferenças! Voltemos a isso, mas de preferência sem uma crise.
Onde quer que você esteja em sua jornada e independentemente de como se sinta sobre um tema, pare de brigar! É bom que discordemos. Os desentendimentos são o meio pelo qual grandes coisas são feitas. Não precisamos nos matar. Ouça as histórias uns dos outros e cuide de seus semelhantes! Somos todos seres humanos!
“Poor Technology” nos lembra que a IA é o espelho ideal para os ricos, feito pelos ricos para manter seu status, mas os pobres são um espelho real para a sociedade das lutas que ainda enfrentamos, lutas que demandam que trabalhemos juntos para resolvê-las com todas as vozes ouvidas.
Este livro é um chamado a lembrar a beleza do mistério da vida e a não ficar preso em como recriá-la. Para uma boa história da IA, dos pobres e de sua interação, recomendo fortemente o livro “Poor Technology” de Checkett.
------------
Fonte: IHU
