Democracia e livres mercados sobreviverão à IA?

A tecnologia pode mudar economias e destruir a democracia? é o título provocativo de um ensaio na edição de final de ano, de 2019, do The Economist.

“O sucesso das economias baseadas no mercado e no semi-mercado … fez a noção de uma economia planejada parecer coisa do passado.”

Considerando todos os dados, que agora podem ser coletados por bilhões de smartphones e bilhões de sensores, – com muitos outros que estão por vir -, nossos sistemas de IA cada vez mais inteligentes e poderosos

“poderiam substituir as escolhas autônomas nas quais o mercado ainda se baseia? … E se a tecnologia puder superar a mão invisível da economia, ela poderá fazer o mesmo nas urnas quando se trata de política? ”

Como já vimos, os aplicativos de IA “podem fornecer não apenas dados sobre o que as pessoas querem e toleram, mas também os meios para manipular esses desejos. Quando esses meios estão disponíveis para os atores dentro ou fora de um estado, a luta para obter, ou ainda manter, uma democracia que reflete uma genuína vontade popular pode se tornar ainda mais difícil do que ja é.”

Tudo isso poderia significar que a economia de livre mercado e a democracia liberal se tornarão obsoletas no próximo século?

Essas questões já foram, por diversas vezes levantadas e testadas repetidamente ao longo do século XX, quando vários governos tentaram redesenhar suas economias e sociedades de acordo com o que se acreditava serem leis científicas. Porém, a maioria desses esquemas, especialmente os realizados por estados autoritários, acabou sendo um completo fracasso. E alguns foram erros trágicos – como a coletivização da agricultura, por Stalin, na União Soviética e o Grande Salto Adiante de Mao na China -, os quais trouxeram desordem social e morte a milhões.

Não foi apenas em estados autoritários que programas grandes, caros e bem-intencionados de engenharia social acabaram piorando as condições que pretendiam corrigir. Em meados do século 20, várias cidades americanas iniciaram projetos de renovação urbana em larga escala como uma tentativa de reconstruir seções mais antigas e degradadas das cidades do interior e substituí-las por projetos habitacionais de baixa renda. A remodelação de Robert Moses de grandes seções da cidade de Nova York foi um exemplo proeminente, assim como o projeto habitacional Cabrini em Chicago.

Mas, a partir da década de 1960, a oposição aos projetos de renovação urbana começou a crescer. Como Jane Jacobs escreveu em A morte e a vida das grandes cidades americanas, muitos desses projetos foram responsáveis pelo declínio de bairros urbanos que funcionavam bem. Ao longo dos anos, o crime e a negligência levaram a condições deploráveis em vários projetos habitacionais, como as casas Cabrini, que foram demolidas nos anos 2000.

Dado o colapso da União Soviética em 1991, coube à China a decisão de tentar abraçar os mercados, em grande parte, já inseridos em sua economia,

“[o] lado do debate do mercado parecia conclusivamente provado que estava certo”,

observou o The Economist. “Alguns viram o colapso soviético como um argumento aliado sobre política; que a liberdade descentralizada funcionou melhor.”

Esses grandes esquemas montados para melhorar a condição humana falharam porque pretendiam substituir as interdependências altamente complexas da vida social e dos mercados pelo conhecimento científico abstrato.

“Com as ferramentas à sua disposição hoje, parece não haver como competir com sistemas de processamento de informações cultivados organicamente, como mercados e democracia”.

Mas, as coisas poderiam ser diferentes na era da IA?

Dada a proliferação de dispositivos móveis e de IoT, as próximas décadas prometem tornar as informações tão onipresentes quanto a eletricidade. A quantidade e variedade de dados coletados em todo o mundo continuarão a crescer, assim como o poder e a sofisticação dos computadores e algoritmos usados para analisar todos esses dados.

“No entanto, nada disso significa que um planejamento eficiente ou eficaz seja possível no curto prazo.”, conclui  o The Economist. “Os processos democráticos e de mercado atuam para equilibrar a falibilidade humana e explorar todos os tipos de possibilidades. As ditaduras planejadas restringem as escolhas e amplificam os erros.”

A rivalidade do século passado com a União Soviética e sua ideologia comunista agora está sendo substituída por uma rivalidade com a China e seu planejamento baseado em IA.

Como esse planejamento baseado em IA funcionará?

O ensaio do Economist faz referência ao trabalho do professor da Universidade George Washington, Henry Farrell, que explorou essa questão em um artigo recente, Seeing Like a Finite State Machine.

A sabedoria coletiva que está se formando pelo mundo é que “a China está se tornando uma espécie de leviatã tecnocrático totalmente eficiente, graças à combinação de aprendizado de máquina e autoritarismo”, escreve Farrell. “O autoritarismo sempre foi atormentado com problemas de coleta e coleta de informações e de ser suficientemente sensível às necessidades de seus cidadãos para permanecer estável. Agora, no decorrer da história, uma combinação de coleta maciça de dados e aprendizado de máquina resolverá o dilema autoritário básico … O autoritarismo pode emergir como um concorrente mais eficiente que pode vencer a democracia em seu jogo doméstico.”

“A teoria por trás disso é a da força que reforça a força“.

Os pontos fortes da coleta e análise de dados onipresentes reforçam os pontos fortes do planejamento central, onde uma hierarquia de gerenciamento bem organizada agora pode tomar decisões baseadas em IA.

“No entanto, há outra história a ser contada – a fraqueza que reforça a fraqueza“.

Segundo Farrell, o planejamento central baseado no aprendizado de máquina deve superar dois sérios desafios.

Primeiro, embora o aprendizado de máquina possa ser aplicado a praticamente qualquer domínio do conhecimento, seus métodos são mais aplicáveis a problemas significativamente mais restritos e mais especializados do que aqueles que os humanos são capazes de lidar, e há muitas tarefas para as quais o aprendizado de máquina não é eficaz. Em particular, como frequentemente nos lembramos, a correlação não implica em casualidades.

O aprendizado de máquina é uma técnica de modelagem estatística, como mineração de dados e análise de negócios, que encontra e correlaciona padrões entre entradas e saídas sem necessariamente capturar seus relacionamentos de causa e efeito. É excelente na solução de problemas nos quais uma ampla gama de entradas potenciais deve ser mapeada para um número limitado de saídas; grandes conjuntos de dados estão disponíveis para o treinamento dos algoritmos; e os problemas a serem resolvidos se assemelham aos representados nos dados de treinamento, por exemplo, reconhecimento de imagem e fala, tradução de idiomas. Porém, desvios dessas suposições podem levar a maus resultados. Esse é claramente o caso ao tentar aplicar o aprendizado de máquina a problemas altamente complexos e abertos, como mercados e comportamento humano.

O segundo grande desafio é que o aprendizado de máquina pode servir como ampliador de erros e desvios existentes nos dados. Garbage in, garbage out aplica-se tanto à IA hoje em dia quanto à computação desde seus primeiros anos. Dado que os algoritmos de IA são treinados usando a grande quantidade de dados coletados ao longo dos anos, se os dados incluírem preconceitos raciais, de gênero ou outros, as previsões desses algoritmos de AI refletirão esses preconceitos.

“Quando esses dados são usados para tomar decisões que podem reforçar de maneira plausível esses processos (escolhendo, por exemplo, grupos específicos que são considerados problemáticos por atenção da polícia, levando-os a serem mais propensos a serem presos e assim por diante), o viés pode auto alimentar-se de informações não precisas.”

Em um mercado livre mais aberto, nas sociedades democráticas sempre haverá maneiras de as pessoas apontarem e combaterem esses preconceitos, mas nas sociedades autocráticas mais centralmente gerenciadas, as tendências de correção serão mais fracas ou nulas.

“Em resumo, existe um conjunto muito plausível de mecanismos sob os quais o aprendizado de máquina e as técnicas relacionadas podem se tornar um desastre para o autoritarismo, reforçando suas fraquezas e não seus pontos fortes, aumentando sua tendência a más decisões e reduzindo ainda mais a possibilidade de feedback negativo que poderia ajudar a corrigir erros“, escreve Farrell em conclusão.