Marcello Fontes
“ […] qualquer tecnologia suficientemente avançada é indistinguível da magia”.
Arthur C. Clarke
Nos últimos meses, temos nos deparado com considerações impactantes sobre a inteligência artificial, desde o lançamento da versão 4.0 do ChatGPT, em novembro do último ano. Trata-se de um modelo de linguagem baseado em deep learning, literalmente aprendizagem profunda, constituindo-se de um conjunto de algoritmos relacionados a máquinas com com enorme quantidade de poder computacional, capazes de aprender por si mesmas e executar tarefas semelhantes às dos seres humanos. Ele é desenvolvido pela empresa Open AI, organização que tem como foco o desenvolvimento de inteligência artificial. Esta tecnologia, como no geral as tecnologias de IA, procura simular a capacidade humana de respostas e ações, contudo essa ferramenta atua com um algoritmo baseado em redes neurais, que procura simular o comportamento de uma rede neural biológica, como o cérebro humano. Ela é capaz de estabelecer uma conversa com o usuário e produzir respostas mais ou menos complexas e completas, em forma de textos em estilos e formatos os mais diferenciados, conforme solicitado, bem como pode modificar o idioma e o estilo inicialmente solicitado, tudo isso em poucos segundos. Eu testei a ferramenta e obtive resultados interessantes ao solicitar que um poema falando sobre o imperativo categórico do filósofo alemão Immanuel Kant fosse produzido, por exemplo:
Kant nos ensina um princípio moral,
O imperativo categórico é sua regra universal,
Em cada ação, devemos considerar
Se todos deveriam adotar.
A humanidade é um fim em si mesma,
Não algo para ser usado para ganho ou riqueza,
Não podemos mentir, roubar ou enganar,
Se todos fizessem isso, a sociedade iria quebrar.
Devemos sempre respeitar os direitos dos outros,
E não prejudicá-los para atingir nossos próprios objetivos,
O imperativo categórico nos lembra
Que a moralidade é mais importante do que o sucesso ou a riqueza.
Agir com justiça e equidade,
Para criar um mundo mais amoroso e pacífico de verdade,
Kant nos guia em um caminho moral,
Para uma sociedade mais justa e igual.
(Para conferir se o ChatGPT foi minimamente correto em suas afirmações, confira o artigo Dever, autonomia e emancipação: a ética de Kant nesse blog)
O sistema ainda está em desenvolvimento e está longe da perfeição, apesar de impressionar pela rapidez e assertividade na elaboração dos textos. Uma das principais investidoras é a Microsoft, que injetou U$ 10 bilhões na desenvolvedora do ChatGPT. A velocidade no interesse pela ferramenta também impressiona: em cinco dias de seu lançamento, já reuniu mais de 1 milhão de usuários, tratando-se da aplicação com crescimento mais rápido da história. Tudo isso tem produzido reações bastante interessantes e gerado alertas, elogios, petições, etc.
Os posicionamentos são ora de espanto, admiração e clara empolgação, ora de um alarmismo supostamente preocupado com os efeitos que a “nova” tecnologia poderá ter sobre nada menos do que a humanidade e sua civilização. Precisamos saber, a despeito das argumentações com ar de profundidade e das considerações um tanto apaixonadas, se uma ou outra reação realmente possui alguma razoabilidade.
Antes de tudo, fazem-se necessárias algumas considerações filosóficas sobre a técnica e a tecnologia. Na brilhante obra Dialética do Esclarecimento, Theodor Adorno e Max Horkheimer evocam um encontro entre Odisseu (latinizado Ulisses) e as sereias, célebre e imortal passagem registrada no canto 12 da Odisseia, monumental obra da literatura grega atribuída a Homero e composta possivelmente no século 9 ou 8 antes de Cristo. As sereias eram seres ao mesmo tempo encantadores e perigosos, pois seu canto comovente e belíssimo atraia os Homens para si, tendo, entretanto esta atração um caráter fatal, pois acabavam os atraídos morrendo afogados nas águas tempestuosas em que se encontravam. Sabendo que iria passar pela Ilha das Sereias, Odisseu, chamado por Homero de poliastucioso, elabora um plano: por querer muito ouvir o canto das sereias, sem contudo perecer, resolve que seus marinheiros tapariam os ouvidos com cera e o amarrariam fortemente ao mastro do navio. Desta forma, ele poderia ouvir o magnífico canto sem riscos e seus marinheiros, de ouvidos tapados, prosseguiriam a remar e conduzir o navio sem perigo.
O que esse episódio revela, segundo Adorno e Horkheimer, é o carater explorador e controlador da racionalidade por meio da técnica. Para que Odisseu pudesse ouvir o incrível canto das sereias, dezenas de outros tiveram que ser privados desse prazer. A tecnologia e o plano que a envolveram beneficiaram, em última análise, muito mais Odisseu do que os demais. Contudo, poderia ser argumentado que os demais tambem foram beneficiados, pois passaram ilesos pelas terríveis sereias. E esta parece ser a lógica da técnica: mesmo que alguns poucos sejam muito mais beneficiados por ela e explorem e dominem os demais, seu uso sempre trará vantagens supostamente gerais que precisam ser louvadas por todos. Horkheimer, em sua obra Teoria Crítica, dará a isso o nome de razão instrumental, que grosso modo é a percepção de que o conhecimento e o uso da razão se dá para dominar a natureza e as pessoas. Haveria uma hipertrofia dos meios e uma atrofia dos fins deste uso racional, o que seria uma característica daquilo que ele chama razão ocidental.
Dito isso, talvez possamos começar a esboçar alguma resposta ao questionamento posto em nosso título. E a resposta principia com o abandono de ilusões quanto às reais finalidades do desenvolvimento tecnológico. Por mais que discursos e slogans digam o contrário, apontando os patrocinadores de novas tecnologias como seres abnegados que desejam o progresso da humanidade e a diminuição do sofrimento e das desigualdades, a verdade é que desejam o controle, a dominação e o lucro. Claro, haverá benefícios indiretos que darão ao demais mortais a ilusão de progresso com o uso das novas tecnologias e as facilidades que trarão, não percebendo que, na maioria das vezes, estas supostas facilidades moldarão seu estilo de vida no sentido de criar uma dependência irremediavel em relação ao uso das tecnologias apresentadas, dependência esta que muitas vezes empobreceu a humanidade quanto a sua própria autonomia existencial, intelectual e ecológica.
Somos possivelmente alguns dos animais mais frágeis em recursos físicos: temos visão limitada, audição restrita, velocidade de locomoção lenta e força física reduzida em relação a muitas outras espécies. Contudo, por meio da racionalidade, nosso estimado grande diferencial, desenvolvemos meios de ver a milhares de quilômetros, ouvir pessoas a qualquer distância, correr velozmente, voar e mover toneladas de um lugar para outro. Nossas vidas mudaram, temos conforto e praticidade, adquirimos facilidades que mesmo uma geração anterior consideraria inalcançáveis. Mas também temos um mundo poluído e superaquecido, que pode ser totalmente aniquilado após o aperto de alguns botões, destruímos biomas inteiros, eliminamos civilizações, reduzimos nosso vocabulário ao essencial e transformamos nossas relações muitas vezes em atos de mero interesse e superficialidade. Isso rendeu montanhas de dinheiro, além de influência, controle e prestígio incalculável a quem projetou e desenvolveu as tecnologias responsáveis por tais mudanças.
Portanto, aos entusiastas da nova tecnologia capaz de produzir textos nos mais variados estilos e idiomas com considerável grau de beleza estética e simulando o estilo humano talvez até melhor do que a maioria dos humanos faria, convém lembrar que essa tecnologia tem o interesse e não o diletantismo como base. E convém perguntar e investigar quais são estes interesses. Pois ninguém investe bilhões simplesmente por curiosidade e entusiasmo científico.
As vantagens da inteligência artificial são muitas e constantemente decantadas. Segundo o articulista do The New York Times Thomas Friedman, detentor de três prêmios Pulitzer, em artigo do último dia 03 de Abril também publicado pelo Jornal O Estado de São Paulo, denominado ChatGPT, inteligência artificial e a nova ‘descoberta do fogo’ da humanidade, “foram necessárias décadas de experimentos vagarosos” para revelar “a estrutura de mais de 194 mil proteínas, todas registradas no Protein Data Bank”. Em 2022, contudo, “o banco de dados AlphaFold explodiu com estruturas previstas para mais de 200 milhões de proteínas”, resultando que “nosso entendimento sobre o corpo humano deu um passo gigantesco adiante. Conforme coloca o artigo científico “Desdobrando o potencial da IA”, de 2021, publicado pelo Bipartisan Policy Center, o AlphaFold (inteligência artificial desenvolvida pelo DeepMind, um laboratório de inteligência artificial da Alphabet, a empresa-mãe do Google) é uma metatecnologia: Metatecnologias têm capacidade de (…) ajudar a encontrar padrões que auxiliam descobertas em virtualmente todas as disciplinas”. Perceba os termos entusiásticos e grandiosos com os quais ele se refere a tecnologia e seus resultados. Ele ainda destaca: “Para um humano, isso poderia render um Prêmio Nobel. Talvez dois”. Sim, o deslumbramento.
Ninguem questiona os espantosos resultados e as possibilidades interessantes das assim chamadas metatecnologias, das quais o ChatGPT é mais um exemplo. A grande questão reside no campo das consequências, efeitos secundários e impactos no estilo de vida humano e na própria sociedade. Os que temem a inteligência artificial justificam seus receios justamente a partir daí. Vamos a alguns deles.
Em artigo publicado no The New York Times no último dia 24/03/23, intitulado Threats to Humanity Posed by A.I. (Ameaças à humanidade representadas pela Inteligência Artificial), o renomado historiador israelense Yuval Noah Harari, autor de best sellers mundiais como Sapiens e Homo Deus, em conjunto com Tristan Harris e Aza Raskin, ex-funcionários de empresas de tecnologia como Apple e Google e co-fundadores do Center for Humane Technology, trazem uma visão bastante alarmista em relação às consequências de um uso de inteligência artificial sem que a humanidade esteja para isso preparada. O receio é particularmente grande devido àquilo que o Chat GPT representa em termos do uso da linguagem e comunicação.
Harari e seus colegas começam com uma comparação entre a tecnologia de produção de textos atuais e as tecnologias ligadas a novas drogas e medicamentos, bem como biotecnologia: se estes precisam passar por uma série de testes experimentais e desenvolvimento privado para serem enfim lançados ao uso geral, o mesmo deveria acontecer com aqueles (a inteligência artificial).
O conceito de inteligência artificial tem “assombrado a humanidade”, nos dizeres de Harari, “desde meados do século 20, mas até recentemente permaneceu uma perspectiva distante, algo que pertence mais à ficção científica do que a sérios debates científicos e políticos”. Nos muitos filmes que o cinema produziu sobre a inteligência artificial, por exemplo, um medo é sempre recorrente: que ela passe a nos dominar e volte-se contra a humanidade, de uma forma ou outra. Harari emula este medo popular, quando afirma, por exemplo, que “em jogos como o xadrez, nenhum ser humano pode esperar vencer um computador. O que acontece quando a mesma coisa ocorre na arte, na política e até na religião”?
O que realmente aterroriza Harari e seus colegas do Center for Humane Technology é o uso que a inteligência artificial poderá fazer da linguagem, a base da civilização humana, da política e da cultura:
O que significaria para os humanos viver em um mundo onde uma grande porcentagem de histórias, melodias, imagens, leis, políticas e ferramentas são moldadas por uma inteligência não humana, que sabe explorar com eficiência sobre-humana as fraquezas, preconceitos e vícios da mente humana – enquanto também sabe como formar relacionamentos íntimos com os seres humanos? […] IA poderia consumir rapidamente toda a cultura humana – tudo o que produzimos ao longo de milhares de anos – digeri-la e começar a produzir uma enxurrada de novos artefatos culturais. Não apenas redações escolares, mas também discursos políticos, manifestos ideológicos e até livros sagrados para novos cultos.
Yuval Noah Harari, Tristan Harris e Aza Raskin, Ameaças à humanidade representadas pela Inteligência Artificial, NYT, 24/03/2023
Embora reconheçam que, de fato, muito frequentemente os humanos não tem acesso à realidade senão que “somos encapsulados pela cultura, experimentando a realidade através de um prisma cultural” e que “por milhares de anos, nós, humanos, vivemos dentro dos sonhos de outros humanos”, perguntam de modo aflito “como será vivenciar a realidade através de um prisma produzido por uma inteligência não humana?” Esse desespero seria justificado por aquilo que Harari e seus colegas chamam de “primeiro contato da humanidade com a IA”, representado pelas redes sociais, encontro no qual, para ele, a humanidade saiu perdendo, pois ao invés de criar conteúdo, fomos conduzidos a uma seleção de conteúdos que nos levaram, por meio de algorítmos e destaques programados a ter nossa saúde emocional minada, criaram uma cortina de ilusões e a uma polarização política que para ele destruiu a democracia.
Baseado nessa percepção e nos graves riscos a civilização que para eles a IA representa, particularmente a partir de nosso “segundo contato com a IA” através dos “grandes modelos de linguagem”, Harari e seus colegas são taxativos: é preciso que haja uma pausa, uma reconsideração e um aprendizado prévio, e mesmo uma regulamentação: “O primeiro passo é ganhar tempo para atualizar nossas instituições do século 19 para um mundo pós-IA, e aprender a dominar IA antes que ele nos domine”.
Não por coincidência, certamente, cinco dias após a publicação do artigo de Harari no The New York Times, vimos ninguém menos do que Elon Musk, bilionário fundador da Space X, da Tesla e proprietário do Twitter, ser o nome mais destacado de uma petição na qual centenas de especialistas mundiais pedem uma espécie de moratória ou pausa de seis meses na pesquisa sobre Inteligências Artificiais (IAs) mais potentes do que o ChatGPT 4, o modelo da OpenAI lançado recentemente, alertando para “grandes riscos para a humanidade”. Segundo a revista Exame, a petição, postada no site futureoflife.org, pede uma moratória até que sejam estabelecidos sistemas de segurança com novas autoridades reguladoras, vigilância de sistemas de IA, técnicas que ajudem a distinguir entre o real e o artificial e instituições capazes de fazer frente à “grande perturbação econômica e política (especialmente para a democracia) que a IA causará”. Dentre os signatários, além de Musk, destacam-se ainda o cofundador da Apple, Steve Wozniak; membros do laboratório de IA do Google, o DeepMind; o diretor da Stability AI, Emad Mostaque, além de especialistas americanos em IA, acadêmicos e engenheiros-executivos da Microsoft, parceira da OpenAI. E claro, o próprio Harari.
A petição teve reação de outro bilionario em sentido contrário. Bill Gates, fundador da Microsoft e hoje filantropo, disse que seria mais interessante focar na melhor forma de usar desenvolvimentos da IA, pois é difícil entender como uma pausa poderia funcionar globalmente. Outros especialistas brasileiros seguem nessa mesma direção, entendendo que o que a petição propõe não e nem necessário, tampouco factível ou mesmo razoável.
Olhando para as reações que descrevemos, nas quais estão incluídas as de dois dos homens mais ricos do mundo, cujo patrimônio somado é de US$ 284 bilhões, segundo a Revista Forbes (mais do que o PIB de Portugal , República Tcheca ou Romênia, por exemplo), devemos refletir se o que realmente está em jogo são preocupações com o futuro da humanidade e da ciência. Pois fica bastante difícil acreditar na sinceridade de quem tem muito a perder ou a ganhar com essas tecnologias.
Tudo isso remete a mais uma possibilidade de resposta à pergunta que dá título a este artigo. Ainda que Elon Musk e seus consignatários, na hipótese pouco provável de estarem sendo sinceros em sua petição de pausa no desenvolvimento da IA para o bem da humanidade, afirmem que não devemos permitir que máquinas produzindo mentiras invadam nossos canais de comunicação, nem que todos os serviços sejam automatizados, ou ainda que não podemos nos arriscar a perder o controle da civilização, quando nos lembramos do que realmente a técnica e a tecnologia representaram e ainda representam para a humanidade em termos de domínio e exploração, percebemos que tais preocupações estão muito atrasadas, pois de certo modo, tudo isso já aconteceu. Desde a primeira revolução industrial, as tecnologias têm enriquecido ao extremo alguns poucos, os quais têm produzido mentiras deslavadas, controlado a vida da sociedade, a qual adestra a tornar-se dependente de cada nova invenção como se paradoxalmente fosse impossível ter sobrevivido até então sem ela, bem como moldado e controlado a cultura e a civilização.
Harari já foi descrito por Darshana Narayanan (doutora em neurociência e jornalista na prestigiosa Revista Current Affair) como portador de uma “perigosa ciência populista”, “um talentoso contador de histórias e orador popular que sacrifica a ciência pelo sensacionalismo”, estando seu trabalho “repleto de erros”. Ele possui um “rebanho” de seguidores que lhe concedem autoridade para falar sobre quase tudo, como Mark Zukenberg, proprietário do Facebook, o diretor do FMI e CEOs de algumas das maiores empresas do mundo, inclusive Elon Musk, como certamente sabemos. Bill Gates agora discorda dele, mas com pelo menos dez bilhões de razões, pelo que vimos. De todo modo, essa admiração dos donos do poder por ele é no mínimo curiosa. E após o sucesso retumbante de suas obras sobre a História da Humanidade, não poucos, mesmo entre seus pares, têm levantado fortes oposições acerca da correção de sua visão, tida como distorcida e pouco atrelada às mais recentes descobertas arqueológicas, com apontam por exemplo Victor Guida e Pedro Tolipan no instigante artigo “Sapiens não é uma breve história da humanidade“. Também é vista como extremamente problemática a defesa de uma ideia de progresso que não faz mais sentido em termos históricos, como afirmam, por exempo, Graeber e Wengrow no livro “O Despertar de Tudo” recentemente lançado.
Não se pode avaliar objetivamente sua sinceridade intelectual, a despeito das fortes suspeitas lançadas por sua proximidade e admiração por parte dos ricos e poderosos, conquanto não se concorde com suas premissas, mas mais uma vez não é difícil apontá-las como atrasadas e seletivas. Seu clamor desesperado quanto à IA também não considera que a sociedade há muito tempo é conduzida em suas escolhas e que aquilo que Adorno e Horkheimer definiram como indústria cultural em “A dialética do Esclarecimento” traz à tona a ilusão que temos de estar no controle de nossas decisões e mesmo gostos. Embora Harari reconheça que o ser humano sempre construiu sua vida a partir dos olhos de outros seres humanos, seu temor de que a IA passe a ditar nossa cultura soa como um grito de alerta tardio. Somos há muito controlados por forças que servem os detentores de técnicas altamente complexas, cada qual a seu tempo. Se no passado o cinema, a propaganda e a música eram determinantes da propaganda de uma cultura que cada vez mais tornou-se industrial desde que a arte passou a ser passível de reprodução em série e que nos dominava com ilusões, hoje vivemos em bolhas controladas por algoritmos que nos conduzem a opiniões e posturas que adotamos sem mesmo perceber.
Certamente o uso da tecnologia da IA pode ter efeitos danosos e tornar a sociedade cada vez menos original, criativa e mesmo livre, por meio da produção de discursos tecnicamente superiores aos da maioria da média da população em termos de lógica, coesão e coerência básicas. Mas por que esse clamor ético e de risco à civilização não se deu quando outras tecnologias foram tão danosas quanto essa tem a possibilidade de vir a ser?
Não é o caso nem de se desprezar o risco considerável que tecnologias de IA como ChatGPT embutem, nem de considerar a tecnologia como intrisnsecamente nefasta, conquanto sempre carregue essa possibilidade em si. Tampouco trata-se de aceitar a inevitabilidade irreversível de um “progresso” desta técnica sempre a favor da humanidade. Mas talvez possamos aproveitar esse debate para construirmos uma visão crítica acerca de toda e qualquer tecnologia em termos de dominação e exploração do ser humano pelo ser humano, a partir de uma conscientização mais ampla, só possível por meio do conhecimento e educação, abandonando a ingenuidade com a qual temos nos portado diante delas, como se neutras fossem. Se não o fizermos, continuaremos satisfeitos por estar aproveitando as migalhas confortáveis que elas nos concedem enquanto assistimos os detentores delas fruirem de todo verdadeiro ganho, tal qual os marinheiros de Odisseu posssivelmente foram gratos a ele por terem sobrevivido às sereias, mesmo ensurdecidos enquanto o inventor da técnica gozava das delícias de ouvir seu canto em segurança.
Imagem em destaque da aberura: Imagem de Gerd Altmann por Pixabay
Para saber e conhecer um pouco mais:
Yuval Harari on Threats to Humanity Posed by A.I.
Thomas Friedman: ChatGPT, inteligência artificial e a nova ‘descoberta do fogo’ da humanidade
Ulisses ou Mito e Esclarecimento, Theodor Adorno e Max Horkheimer
A INDÚSTRIA CULTURAL: O ILUMINISMO COMO MISTIFICAÇÃO DE MASSAS. Theodor Adorno e Max Horkheimer
Terceira Margem 
Deixe uma resposta