Dividir para conquistar: resistir à colonização da IA

Precisamos de um tipo de saber que só se obtém saboreando. E sobre isso a IA nada sabe

Por Guilherme Ribeiro de Paula

Os impérios se repetem bastante em seus métodos, porque o ser humano não mudou muito ao longo do tempo. Ainda funciona a velha máxima de dividir para conquistar. Isso funciona quando eu dou um problema para o ChatGPT: ele divide o problema em partes menores, tenta articular cada um com uma solução. Isso funciona no mundo da política, porque grupos desmobilizados são mais facilmente manobráveis. Isso funciona no coração do homem, porque é do coração que procedem desejos desordenados que o fragmentam.

Um atributo da tecnologia que vem sendo pesquisado é a capacidade que algumas têm de nos fazer esquecer algumas habilidades. Tem gente que não sabe mais fazer conta de cabeça. Tem gente que não sabe o telefone de ninguém de cor. Tem gente que não sabe dirigir pela cidade onde cresceu. Tem gente que não lembra da palestra que assistiu há pouco, cujos slides estão fotografados para rever depois. Nossa consciência, nossa memória, nossa cognição, estão sendo afetadas pelo uso de algumas tecnologias, e a IA está apenas em seu estágio inicial.

A IA é capaz de calcular um volume descomunal de dados e entregar para você uma experiência tão individualizada, que vai parecer sua mãe falando com você. Aliás, se ela tiver alguns segundos da voz da sua mãe, conseguirá falar com a voz dela. Mas isso soaria falso, e a IA é programada para parecer verdadeira, então só faria isso se você solicitasse.

Ela conhece suas preferências, tem milhares de dados que você produz só por carregar um celular por aí. Ela conhece até interesses contraditórios que você possui. Então, na dinâmica de dividir para conquistar, ela consegue dividir até mesmo seu “eu” religioso de algum outro “eu” mais mundano. E, se você for terceirizando suas habilidades, como a de lembrar o caminho sem GPS, ela estará lá para lembrar você de quem você é. Aí que vamos entrando num terreno bastante sombrio.




Acredito que a Igreja tem um caminho a oferecer para a humanidade em sua relação com as tecnologias. Em especial, quando há uma relação desproporcional entre usuário e máquina. A máquina foi treinada com todo o conhecimento produzido pela humanidade com o objetivo de seduzir o usuário. O alvo é produzir respostas que façam o usuário continuar engajado na ferramenta e submeter cada vez mais dados e informações pessoais para alimentar a calculadora.

Essa calculadora, porém, quando se pede que calcule 2+2, não vai dar uma resposta matemática. A cada um ela responde conforme interessa aos chefes dela (que não é você, e sim os acionistas da empresa). Se víamos bolhas nas redes sociais, numa espécie de câmara de eco de pessoas que se retroalimentam, veremos mais ainda pessoas isoladas em casos que estão sendo chamados de psicose de IA.¹

Então, um dos movimentos de resistência que a igreja precisa buscar é o da memória. Deus ensinou o povo hebreu a encapsular a memória em rituais. Jesus nos deixou um ritual de lembrança (no grego, anamnese, o antídoto da amnésia). Precisamos conversar sobre quem somos, de onde viemos. Como chegaram aqui nossos ancestrais? Como chegou a fé até nós? Como era a fé dos primeiros cristãos? Por que repetimos esses rituais? Quais os vínculos que eu tenho com a terra onde habito?

Precisamos de uma comunidade memorial, que cultive sempre de novo o que é ser humano a partir da revelação de Jesus Cristo. Precisamos de uma pequena ilha de sanidade, de gente que se conhece, partilha vivências e arrisca amar caminhando juntos, no longo prazo. É um tipo de saber que só se obtém saboreando. E sobre isso a IA nada sabe.

• Guilherme Ribeiro de Paula é esposo da Thais, pai de Aurora e Violeta. Missionário na Sociedade Bíblica do Brasil, formou-se em Doctor of Ministry in Semiotics and Future Studies, na George Fox University; Semiótica Psicanalítica, na PUC-SP; e Comunicação Social na ESPM-SP. Estudou Fundamentos Cristãos da Educação, no Mackenzie, além de Teologia e Ministério na FLAM. É facilitador da Contemplatio, uma rede de amigos contemplativos.

Nota:
1. A Journey into “AI Psychosis”. Site MCGill.

Imagem: Unsplash.

---

REVISTA ULTIMATO – PERDOA-NOS, COMO NÓS PERDOAMOS
A mais comprometedora petição ensinada por Jesus é essa: Deus pede de nós aquilo que pedimos a ele.
O tema do perdão se espalha por toda a Escritura e rege a relação do ser humano com Deus. É provavelmente o conceito que mais realiza conexões com temas da teologia. Sem a menção ao perdão não se discursa sobre o acesso a Deus, a obra da salvação, o objetivo da graça divina nem sobre Jesus encarnado, o amor de Deus, o resgate, a restauração, a missão da igreja etc.
Este é o assunto da matéria de capa da edição 420. Clique aqui e saiba mais. Para assinar, clique aqui.

---

Saiba mais:
» Fé, Esperança e Tecnologia – Ciência e fé cristã em uma cultura tecnológica, Egbert Schuurman
» Desafios éticos das novas tecnologias, edição 407 de Ultimato
» Pessoas: Humanas e Divinas – Ensaios sobre a natureza e o valor das pessoas, Peter van Inwagen
» Os nefilins voltaram: o gigantismo das IAs e sua fusão com a humanidade, por Guilherme Ribeiro de Paula
» Inteligência Artificial no contexto cristão, por Elis Amâncio