Pela manutenção da profundidade humana — ou um alerta em relação à IA

Photo by Marija Zaric on Unsplash

Desde o início dessa onda arrebatadora que é a inteligência artificial generativa, são raros os setores ou tarefas que não tenham recebido pelo menos um pouco de influência dessa tecnologia. A IA escreve muito bem, escreve muito rápido e tem acesso a um banco de conhecimento imenso, o que faz com que seja muito conveniente simplesmente pedir que ela faça um texto em vez de escrever de forma artesanal.

Não usar IA no mundo de hoje é o mesmo que não usar elevador. Você chega no mesmo lugar, mas demora bem mais.

Minha área de trabalho lida muito com redação de textos. Então era de se esperar que absolutamente todos os trabalhos seriam impactados pela IA, seja para redigir ou para rever. Equipes inteiras estão se dedicando a aperfeiçoar as técnicas e métodos para tirar do robô textos cada vez mais próximos de algo pronto, em que nós, humanos, apenas teríamos o trabalho de guiar, revisar e solicitar correções pontuais.

Isso é ótimo, de verdade. A nossa produtividade cresceu muito, muito mesmo. Textos que antes demoravam semanas para ficar prontos agora têm uma versão zero para discussão e aperfeiçoamento em minutos, se não segundos se tivermos sorte no prompt.

Mas então qual é o propósito desse texto totalmente artesanal? O que quero levantar aqui é que, assim como nós, redatores de projetos, laudos e solicitações, estamos usando de forma intensiva a IA, também o outro lado, os avaliadores e tomadores de decisão em órgãos públicos de fomento, estão usando IA para avaliar esses mesmos projetos criados por outras IAs.

Isso gera uma situação em que robôs criam textos que serão avaliados por outros robôs, os humanos sendo apenas mais uma das inúmeras fontes utilizadas por esses robôs para interagirem entre si.

E essa situação acontece pois a IA tira da inteligência humana a tarefa de criar, de debater, de aprender e de aprofundar seus conhecimentos em uma determinada área. Isso nos é tomado por simplesmente não termos mais o tempo que precisamos pra isso.

A velocidade que a IA imprime aos processos é muito maior do que a velocidade com que aprenderíamos sobre um tema de forma natural e artesanal. Podemos cuspir um projeto de pesquisa em minutos com uma qualidade altíssima. Mas isso não quer dizer que aprendemos sobre aquele tema que o projeto de pesquisa pretende explorar. O projeto, ainda que aprovado, não contribui de forma significativa no processo científico, uma vez que foi elaborado por um algoritmo.

E a execução do projeto aprovado não foge a essa regra. A inteligência artificial generativa está avançando a passos tão acelerados que não é difícil que uma pessoa faça todo o trabalho de pesquisa, desde a busca e leitura de artigos e trabalhos anteriores, passando pelos protocolos de testes ou elaboração de outros instrumentos, e finalizando na análise e interpretação dos dados coletados, tudo pela IA.

A gente poderia dizer que o único trabalho da pessoa seria em operacionalizar e coletar os dados, mas até isso a IA poderá fazer se um agente for bem configurado para tal.

Assim, teríamos uma verba pública investida em um projeto que foi elaborado, avaliado, planejado, executado e concluído por máquinas, e a humanidade pouco ou nada aprende com ele.

É um cenário catastrófico? Sem dúvida. Mas quem pode dizer que não é uma realidade possível, até mesmo altamente provável em um futuro muito próximo?

Devemos valorizar o trabalho artesanal na ciência — assim como em outras áreas, como na música, por exemplo, sob o risco de deixarmos de aprender com atividades que sempre foram inerentemente humanas, e que agora podem ser totalmente terceirizadas para os robôs.

E qual seria a solução? Valorizar a profundidade sobre a velocidade. Este texto foi totalmente feito de forma artesanal, e fiz questão de não usar IA nem para corrigir os erros de digitação, concordância e fluidez de texto. Isso fez com que o texto demorasse para ser concluído. Na verdade, neste momento em que escrevo eu sequer sei onde ele vai parar.

Eu poderia ter levado apenas alguns segundos para construir o texto baseado no argumento original, mas o texto, apesar de bem escrito, deixaria de ter algo que esse aqui tem de sobra: alma.

Não à toa, o termo animal vem da palavra alma. Somos animais, e somos providos de alma. É isso que nos diferencia das máquinas.

Escrever um texto usando IA e eficiente e produtivo. Rápido e conveniente. Mas jamais causa no redator a emoção que esse aqui está causando em mim enquanto escrevo — e, espero, em você também enquanto o lê.

Um texto argumentativo não é meramente escrito, ele é sentido. Ele nasce como um sentimento, nas entranhas. Sobe para o cérebro, onde é transformado em palavras. Desce em seguida para as mãos, que executam a tarefa de escrever em papel ou digitar em um teclado.** Um texto gerado por IA jamais terá a personalidade e sentimento de um texto escrito de forma artesanal — **por mais que consiga mimetizar.

Podemos fazer também uma afirmação semelhante quando abordamos textos científicos ou técnicos. De que adianta uma redação perfeita, uma lógica perfeita, se quem o escreveu não entende o que está escrito? Ou, pelo menos, não o entende com profundidade? Não o sentiu enquanto escrevia? Não incorporou a teoria pela leitura aprofundada de artigos e outros documentos relevantes usados no capítulo de revisão bibliográfica?

E, ao mesmo tempo, de que adianta uma ciência feita por robôs para leitura e avaliação de outros robôs? Os avanços científicos podem até se acelerar, mas a humanidade irá acompanhar esses avanços? Ou perderemos nosso papel de atores para espectadores da ciência e tecnologia?

Não advogo pelo fim da IA, ou mesmo pela manutenção da tecnologia em poucas mãos. Apenas acredito que o uso desse tipo de ferramenta não pode ser desculpa para um mundo em que ninguém mais pensa, em que todos se alienem dos processos de geração de conhecimento e avanço científico e tecnológico. Empiricamente, já vemos o que a IA tem causado nas salas de aula, nos trabalhos acadêmicos como TCCs, e durante as avaliações.

É perfeitamente possível uma IA fazer a faculdade inteira no lugar de um aluno, se ele souber como usar as ferramentas certas para tal. Assim como é perfeitamente possível a IA preparar as aulas dos professores, com eles apenas lendo o que a IA colocou nos slides.

Estamos diante de um risco muito claro de perder as rédeas e o controle do avanço científico e tecnológico. A IA tem um potencial gigantesco de melhorar a vida de toda a humanidade, mas também pode causar prejuízos enormes na queda da qualidade da formação acadêmica, na terceirização de todas as atividades de raciocínio para robôs, e na alienação da humanidade em relação ao conhecimento produzido.

Nunca é demais citar Isaac Asimov. Em sua série sobre robôs (mais especificamente em seu livro “Eu, Robô”, de 1950), o escritor Isaac Asimov postulou as três leis da robótica, que em seu universo ficcional eram introduzidas de forma obrigatória em todos os cérebros positrônicos, ou os cérebros que moviam os robôs inteligentes:

1. Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano sofra algum mal.
2. Um robô deve obedecer às ordens que lhe sejam dadas por seres humanos, exceto nos casos em que tais ordens contrariem a Primeira Lei.
3. Um robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a Primeira ou Segunda Leis.

A chamada “lei zero” foi introduzida posteriormente, semelhante à Primeira Lei, mas que postulava que o robô jamais deveria ferir ou permitir que firam a humanidade.

Talvez seja hora de começar a implementar essas leis.