“Preocupações com a inteligência artificial” foi o tema da edição de abril do The Economist, com diversos artigos sobre o assunto. “O rápido progresso na IA está despertando medo e também entusiasmo. Quão preocupados deveríamos estar com isso?”, diz o artigo. “Em particular, os ‘grandes modelos de linguagem’ (LLMs) – o tipo de modelo que alimenta o Chatgpt – surpreenderam até os seus criadores.”
“Os defensores da IA entendem que o seu potencial para resolver grandes problemas através do desenvolvimento de novos medicamentos e novos materiais para ajudar a combater as alterações climáticas ou de desvendar as complexidades da energia e fusão atômica, será muito importante. Já para outros, o fato de as capacidades das IA estarem ultrapassando a compreensão dos seus criadores, corre-se o risco de dar vida ao cenário de desastre da ficção científica da máquina que supera o seu inventor, muitas vezes com consequências fatais.”
A edição do The Economist incluiu um ensaio, “Como a IA poderia mudar a computação, a cultura e o curso da história”, do especialista em negócios Ludwig Siegele, em colaboração com Oliver Morton. O ensaio é muito interessante e aborda vários pontos de vista sobre o impacto a longo prazo da IA; mostrando que em um extremo estão aqueles que acreditam que uma singularidade tecnológica será alcançada no futuro por uma super inteligência em avanço exponencial que acabaria por representar um risco para os humanos; no outro extremo estão aqueles que acreditam que ferramentas cada vez mais sofisticadas baseadas em IA nos ajudarão a processar grandes quantidades de informação e a resolver melhor problemas cada vez mais complexos. Por exemplo, num artigo da Wired, Kevin Kelly escreveu que a IA se tornará uma espécie de “inteligência digital barata, confiável e de nível industrial, que funcionará por trás de tudo, de forma quase invisível… Tudo o que anteriormente, tínhamos dificuldades, pode se tornar mais fácil… Como os serviços públicos, por exemplo. A IA transformará a Internet, a economia global e a civilização.”
O ensaio de Siegele lembra o artigo de Kelly. “O notável boom nas capacidades dos grandes modelos de linguagem (Large Language Model – LLMs), modelos fundamentais e formas relacionadas de IA generativa impulsionam estas discussões sobre o risco existencial para a imaginação pública e para governos”, observa o ensaio. E embora concorde que estes novos modelos trazem perigos claros e presentes, é difícil imaginá-los ‘com o poder de controlar a civilização’, ou para ‘nos substituir”.
Mas, o ensaio acrescenta: “Uma tecnologia não precisa acabar com o mundo para poder mudá-lo.” Para nos dar uma ideia do que podemos esperar da IA, o ensaio cita três análogos históricos: o navegador, a imprensa e as teorias psicanalíticas de Sigmund Freud e eu vou comentar brevemente como cada uma dessas mudanças e isso pode ajudar a esclarecer o impacto da IA a longo prazo.
O navegador
O alcance universal e a conectividade da Internet e da World Wide Web inauguraram a economia digital do século XXI, permitindo o acesso a uma enorme variedade de informações e aplicações a qualquer pessoa com um computador, uma linha ligada à Internet e um navegador. As empresas e as instituições do setor público puderam assim envolver-se em suas actividades principais de uma forma muito mais produtiva.
“O humilde navegador web, do início da década de 1990, mudou a forma como os computadores são utilizados, a forma como a indústria da informática funciona e a forma como a informação é organizada”, afirma o ensaio. O navegador se tornou a porta de entrada para informações e aplicativos na Web, levando à chamada guerra dos navegadores, à medida que diferentes empresas competiam para desenvolver navegadores proprietários, cujos recursos incompatíveis, não funcionavam em todos os sites. Então, em 1995, todos os desenvolvedores de navegadores concordaram com os padrões estabelecidos pelo World Wide Web Consortium (W3C).
Os navegadores fornecem uma maneira de acessar e interagir com conteúdo produzido por humanos. Os LLMs, no entanto, geram seu próprio conteúdo e, embora sejam muito bons na geração de texto, fala, imagens e vídeos após algumas solicitações, não possuem mecanismos para verificar a veracidade do que geram. As sentenças geradas podem, portanto, ser linguisticamente plausíveis, mas podem na verdade ser incorretas ou sem sentido. “Eles criam coisas que se parecem com os seus treinamentos; eles não têm noção de um mundo além dos textos e imagens nos quais foram treinados.”
“Em muitas aplicações, há uma tendência a divulgar mentiras … e isso pode ser usados para configurar redes de influência maliciosa, com sites falsos, bots do Twitter, páginas do Facebook, feeds do TikTok e muito mais.”
O ensaio ainda faz referência a um artigo que descreve o comportamento dos LLMs. Os seus autores argumentaram que os LLMs estão apenas a remixar o enorme número de frases de autoria humana utilizadas na sua formação. A sua impressionante capacidade de gerar frases convincentes e articuladas, nos dá a ilusão de que estamos lidando com um ser humano bem educado e inteligente, e não com o que é essencialmente um ‘papagaio’ a repetir palavras e frases, sem uma compreensão do que está gerando.
A imprensa
A imprensa, inventada por Johannes Gutenberg por volta de 1440, acelerou a difusão do conhecimento e da alfabetização na Europa renascentista. A revolução gráfica de Gutenberg influenciou quase todas as facetas da vida nos séculos que se seguiram, começando com a Reforma Protestante que alavancou a imprensa para minar o monopólio da Igreja Católica na disseminação de informação.
A própria amplitude da imprensa torna a comparação com os LLMs quase inevitável. Os livros impressos expandiram significativamente o conhecimento a todos que tiveram acesso, ajudando-nos a gerar muito mais conhecimento e novos tipos de disciplinas. Da mesma forma, LLMs treinados em um determinado conhecimento podem derivar e gerar todos os tipos de conhecimento adicional.
“Como forma de apresentar o conhecimento, os LLMs prometem levar mais longe o lado prático e pessoal dos livros, em alguns casos abolindo-os completamente. Uma aplicação óbvia da tecnologia é transformar conjuntos de conhecimento em assunto para chatbots. Em vez de ler um texto todo procurando por partes importantes, você questionará uma IA treinada e obterá respostas com base no que o texto diz. Por que virar as páginas quando você pode interrogar uma IA pra obter uma analise da obra como um todo?”
Os chatbots já estão sendo desenvolvidos para ajudar os usuários a interagir com tipos específicos de conhecimento. O ensaio menciona que a Bloomberg introduziu recentemente o BloombergGPT, um “LLM com 50 bilhões de parâmetros, criado do zero para fins financeiros”. O BibleGPT, é um chatbot de IA treinado na Bíblia, e tem como objetivo dar conselhos sobre questões importantes da vida. O mesmo acontece com o QuranGPT para aqueles que buscam orientação e insights sobre os ensinamentos do Islã. “Enquanto isso, várias startups estão oferecendo serviços que transformam todos os documentos no disco rígido de um usuário, ou em sua nuvem, em um recurso para consulta.”
Freud e IA
A terceira grande mudança discutida no ensaio é particularmente intrigante. “Aceitar que LLMs de aparência humana são cálculos, estatísticas e nada mais poderia influenciar a forma como as pessoas pensam sobre si mesmas.”
“Freud retratou-se como continuador da tendência iniciada por Copérnico – que removeu os humanos do centro do universo – e Darwin – que nos removeu de um estatuto especial e dado por Deus entre os animais. A contribuição da psicologia, na visão de Freud, residia em ‘esforçar-se para provar ao ego de que, cada um de nós, nem sequer é dono da sua própria casa’”.
Até agora, não somos mestres nos LLMs e chatbots que criamos. Os pesquisadores de IA podem até explicar como funcionam os algoritmos matemáticos e as redes neurais, mas são incapazes de explicar, em termos que um ser humano geralmente entenderia, como esses algoritmos chegaram a uma recomendação específica. Em outras palavras, não sabemos realmente como funcionam.
“Isto levanta duas preocupações, mas mutuamente exclusivas: (1) que as IAs tenham algum tipo de funcionamento interno que os cientistas ainda não conseguem perceber; ou (2) que é possível passar-se por humano no mundo social, sem qualquer tipo de compreensão interior.”
Freud percebeu que a mente consciente não era o único impulsionador dos comportamentos humanos. Havia outro condutor, a mente inconsciente, que existe abaixo da consciência e que pode exercer uma forte influência sobre as nossas emoções e ações. Não é preciso subscrever as explicações freudianas do comportamento humano para concordar que as pessoas fazem coisas das quais não têm consciência.
Embora a mente inconsciente possa não ser um modelo satisfatório para ajudar a explicar como funcionam os LLMs, a sensação de que há algo abaixo da IA que precisa de compreensão é bastante poderosa. Mas, se os LLMs e chatbots, sem vida, continuarem a exibir comportamentos cada vez mais semelhantes aos humanos, e ainda não compreendermos os motivadores de tal comportamento, “então será hora de fazer pela IA algo do que Freud pensava que estava fazendo pelos humanos”, escreveu Siegele em conclusão.
“E os desejos humanos também podem precisar de inspeção”, acrescentou. “Por que tantas pessoas estão ansiosas pelo tipo de intimidade que um LLM pode proporcionar? Porque é que muitos humanos influentes parecem pensar que, porque a evolução mostra que as espécies podem ser extintas, é muito provável que as suas o façam pelas suas próprias mãos, ou pelas do seu sucessor? E onde está a determinação de transformar uma racionalidade sobre-humana em algo que não apenas agite a economia, mas mude a história para melhor?”
