Democracia e livres mercados sobreviverão à IA?

A tecnologia pode mudar economias e destruir a democracia? é o título provocativo de um ensaio na edição de final de ano, de 2019, do The Economist.

“O sucesso das economias baseadas no mercado e no semi-mercado … fez a noção de uma economia planejada parecer coisa do passado.”

Considerando todos os dados, que agora podem ser coletados por bilhões de smartphones e bilhões de sensores, – com muitos outros que estão por vir -, nossos sistemas de IA cada vez mais inteligentes e poderosos

“poderiam substituir as escolhas autônomas nas quais o mercado ainda se baseia? … E se a tecnologia puder superar a mão invisível da economia, ela poderá fazer o mesmo nas urnas quando se trata de política? ”

Como já vimos, os aplicativos de IA “podem fornecer não apenas dados sobre o que as pessoas querem e toleram, mas também os meios para manipular esses desejos. Quando esses meios estão disponíveis para os atores dentro ou fora de um estado, a luta para obter, ou ainda manter, uma democracia que reflete uma genuína vontade popular pode se tornar ainda mais difícil do que ja é.

Tudo isso poderia significar que a economia de livre mercado e a democracia liberal se tornarão obsoletas no próximo século?

Essas questões já foram, por diversas vezes levantadas e testadas repetidamente ao longo do século XX, quando vários governos tentaram redesenhar suas economias e sociedades de acordo com o que se acreditava serem leis científicas. Porém, a maioria desses esquemas, especialmente os realizados por estados autoritários, acabou sendo um completo fracasso. E alguns foram erros trágicos – como a coletivização da agricultura, por Stalin, na União Soviética e o Grande Salto Adiante de Mao na China -, os quais trouxeram desordem social e morte a milhões.

Não foi apenas em estados autoritários que programas grandes, caros e bem-intencionados de engenharia social acabaram piorando as condições que pretendiam corrigir. Em meados do século 20, várias cidades americanas iniciaram projetos de renovação urbana em larga escala como uma tentativa de reconstruir seções mais antigas e degradadas das cidades do interior e substituí-las por projetos habitacionais de baixa renda. A remodelação de Robert Moses de grandes seções da cidade de Nova York foi um exemplo proeminente, assim como o projeto habitacional Cabrini em Chicago.

Mas, a partir da década de 1960, a oposição aos projetos de renovação urbana começou a crescer. Como Jane Jacobs escreveu em A morte e a vida das grandes cidades americanas, muitos desses projetos foram responsáveis pelo declínio de bairros urbanos que funcionavam bem. Ao longo dos anos, o crime e a negligência levaram a condições deploráveis em vários projetos habitacionais, como as casas Cabrini, que foram demolidas nos anos 2000.

Dado o colapso da União Soviética em 1991, coube à China a decisão de tentar abraçar os mercados, em grande parte, já inseridos em sua economia,

“[o] lado do debate do mercado parecia conclusivamente provado que estava certo”,

observou o The Economist. “Alguns viram o colapso soviético como um argumento aliado sobre política; que a liberdade descentralizada funcionou melhor.”

Esses grandes esquemas montados para melhorar a condição humana falharam porque pretendiam substituir as interdependências altamente complexas da vida social e dos mercados pelo conhecimento científico abstrato.

“Com as ferramentas à sua disposição hoje, parece não haver como competir com sistemas de processamento de informações cultivados organicamente, como mercados e democracia”.

Mas, as coisas poderiam ser diferentes na era da IA?

Dada a proliferação de dispositivos móveis e de IoT, as próximas décadas prometem tornar as informações tão onipresentes quanto a eletricidade. A quantidade e variedade de dados coletados em todo o mundo continuarão a crescer, assim como o poder e a sofisticação dos computadores e algoritmos usados para analisar todos esses dados.

“No entanto, nada disso significa que um planejamento eficiente ou eficaz seja possível no curto prazo.”, conclui  o The Economist. “Os processos democráticos e de mercado atuam para equilibrar a falibilidade humana e explorar todos os tipos de possibilidades. As ditaduras planejadas restringem as escolhas e amplificam os erros.

A rivalidade do século passado com a União Soviética e sua ideologia comunista agora está sendo substituída por uma rivalidade com a China e seu planejamento baseado em IA.

Como esse planejamento baseado em IA funcionará?

O ensaio do Economist faz referência ao trabalho do professor da Universidade George Washington, Henry Farrell, que explorou essa questão em um artigo recente, Seeing Like a Finite State Machine.

A sabedoria coletiva que está se formando pelo mundo é que “a China está se tornando uma espécie de leviatã tecnocrático totalmente eficiente, graças à combinação de aprendizado de máquina e autoritarismo”, escreve Farrell. “O autoritarismo sempre foi atormentado com problemas de coleta e coleta de informações e de ser suficientemente sensível às necessidades de seus cidadãos para permanecer estável. Agora, no decorrer da história, uma combinação de coleta maciça de dados e aprendizado de máquina resolverá o dilema autoritário básico … O autoritarismo pode emergir como um concorrente mais eficiente que pode vencer a democracia em seu jogo doméstico.”

“A teoria por trás disso é a da força que reforça a força“.

Os pontos fortes da coleta e análise de dados onipresentes reforçam os pontos fortes do planejamento central, onde uma hierarquia de gerenciamento bem organizada agora pode tomar decisões baseadas em IA.

“No entanto, há outra história a ser contada – a fraqueza que reforça a fraqueza“.

Segundo Farrell, o planejamento central baseado no aprendizado de máquina deve superar dois sérios desafios.

Primeiro, embora o aprendizado de máquina possa ser aplicado a praticamente qualquer domínio do conhecimento, seus métodos são mais aplicáveis a problemas significativamente mais restritos e mais especializados do que aqueles que os humanos são capazes de lidar, e há muitas tarefas para as quais o aprendizado de máquina não é eficaz. Em particular, como frequentemente nos lembramos, a correlação não implica em casualidades.

O aprendizado de máquina é uma técnica de modelagem estatística, como mineração de dados e análise de negócios, que encontra e correlaciona padrões entre entradas e saídas sem necessariamente capturar seus relacionamentos de causa e efeito. É excelente na solução de problemas nos quais uma ampla gama de entradas potenciais deve ser mapeada para um número limitado de saídas; grandes conjuntos de dados estão disponíveis para o treinamento dos algoritmos; e os problemas a serem resolvidos se assemelham aos representados nos dados de treinamento, por exemplo, reconhecimento de imagem e fala, tradução de idiomas. Porém, desvios dessas suposições podem levar a maus resultados. Esse é claramente o caso ao tentar aplicar o aprendizado de máquina a problemas altamente complexos e abertos, como mercados e comportamento humano.

O segundo grande desafio é que o aprendizado de máquina pode servir como ampliador de erros e desvios existentes nos dados. Garbage in, garbage out aplica-se tanto à IA hoje em dia quanto à computação desde seus primeiros anos. Dado que os algoritmos de IA são treinados usando a grande quantidade de dados coletados ao longo dos anos, se os dados incluírem preconceitos raciais, de gênero ou outros, as previsões desses algoritmos de AI refletirão esses preconceitos.

“Quando esses dados são usados para tomar decisões que podem reforçar de maneira plausível esses processos (escolhendo, por exemplo, grupos específicos que são considerados problemáticos por atenção da polícia, levando-os a serem mais propensos a serem presos e assim por diante), o viés pode auto alimentar-se de informações não precisas.”

Em um mercado livre mais aberto, nas sociedades democráticas sempre haverá maneiras de as pessoas apontarem e combaterem esses preconceitos, mas nas sociedades autocráticas mais centralmente gerenciadas, as tendências de correção serão mais fracas ou nulas.

Em resumo, existe um conjunto muito plausível de mecanismos sob os quais o aprendizado de máquina e as técnicas relacionadas podem se tornar um desastre para o autoritarismo, reforçando suas fraquezas e não seus pontos fortes, aumentando sua tendência a más decisões e reduzindo ainda mais a possibilidade de feedback negativo que poderia ajudar a corrigir erros“, escreve Farrell em conclusão.

Conte aos amigos

11 thoughts on “Democracia e livres mercados sobreviverão à IA?

  1. I and my friends have already been digesting the nice guidelines from your site while suddenly I got a terrible feeling I had not thanked the blog owner for those tips. All of the guys are already absolutely warmed to read through them and have in actuality been tapping into those things. Appreciation for being considerably considerate and for considering these kinds of fine themes most people are really eager to know about. Our sincere regret for not saying thanks to sooner.

  2. I wish to show my appreciation to the writer for bailing me out of this trouble. Right after scouting through the the net and seeing thoughts which are not beneficial, I thought my entire life was well over. Living devoid of the approaches to the problems you’ve resolved by means of the guide is a critical case, and the kind which may have negatively damaged my career if I had not come across your site. Your primary talents and kindness in controlling the whole thing was invaluable. I’m not sure what I would’ve done if I hadn’t discovered such a point like this. It’s possible to at this moment look ahead to my future. Thanks for your time very much for this professional and amazing guide. I will not be reluctant to recommend your site to anyone who desires care about this subject.

  3. I not to mention my buddies have been reading the great tips and tricks located on your web page and immediately I had a terrible feeling I never expressed respect to the web blog owner for those strategies. These men ended up consequently stimulated to see all of them and have in fact been taking advantage of those things. Appreciate your actually being simply considerate and then for utilizing varieties of fine resources most people are really eager to be aware of. Our own sincere apologies for not saying thanks to you sooner.

  4. I and my pals ended up reviewing the great tips and hints on the website then all of the sudden I got an awful feeling I never expressed respect to the site owner for them. The men are already so excited to read all of them and have seriously been enjoying these things. We appreciate you actually being simply kind and then for making a decision on this sort of important resources millions of individuals are really needing to learn about. My very own honest regret for not expressing gratitude to you earlier.

  5. Thank you for every one of your effort on this website. My niece takes pleasure in setting aside time for investigation and it’s really easy to see why. We notice all relating to the powerful medium you render efficient strategies via your website and therefore inspire contribution from other individuals on the area of interest then our favorite girl is really discovering a whole lot. Take advantage of the remaining portion of the new year. You are performing a very good job.

  6. I have to show some thanks to this writer for bailing me out of this particular scenario. Just after looking out throughout the the net and coming across techniques which are not productive, I thought my life was well over. Living without the presence of approaches to the issues you have solved through your good review is a serious case, and those which might have negatively damaged my entire career if I had not noticed the website. Your main talents and kindness in maneuvering all the stuff was useful. I don’t know what I would’ve done if I hadn’t come upon such a stuff like this. I am able to at this point relish my future. Thank you so much for this professional and result oriented help. I will not think twice to refer your web sites to any person who should get support on this problem.

  7. Thank you for each of your efforts on this web site. My mum enjoys engaging in investigations and it’s easy to understand why. My spouse and i notice all regarding the compelling ways you produce very useful secrets through this website and as well as inspire contribution from other ones about this matter then our favorite girl is certainly becoming educated so much. Have fun with the rest of the year. You have been performing a stunning job.

  8. My husband and i got absolutely delighted Albert could do his researching through your ideas he received out of your weblog. It’s not at all simplistic just to possibly be giving out techniques which people have been trying to sell. We discover we need the website owner to thank for this. The illustrations you made, the straightforward blog navigation, the relationships you can help foster – it is all spectacular, and it’s really making our son in addition to us consider that the idea is enjoyable, and that is unbelievably indispensable. Thanks for all the pieces!

  9. I am glad for writing to make you be aware of what a incredible discovery my friend’s princess obtained checking your site. She learned numerous pieces, including how it is like to have a very effective coaching mood to let certain people easily fully grasp various complex matters. You really exceeded readers’ expectations. Thanks for displaying such interesting, trustworthy, edifying and also cool guidance on that topic to Julie.

  10. I as well as my pals appeared to be digesting the best helpful hints on the website and then quickly got a horrible suspicion I had not thanked the website owner for them. All the boys became excited to see them and have in fact been using those things. Thanks for indeed being so kind as well as for opting for certain outstanding guides millions of individuals are really desirous to be aware of. My honest apologies for not expressing appreciation to you earlier.

Deixe uma resposta