Oráculo ou fiel escudeiro?

Não posso ser hipócrita e negar que o surgimento das IAs generativas trouxe um grande avanço à diversas áreas de trabalho. Mas também não posso ser cego o suficiente para não enxergar o quanto as pessoas não estão sabendo utilizá-las em seus trabalhos. Afinal de contas: para você, a IA é um oráculo ou um fiel escudeiro?

Faço aqui referências a dois mundos. O primeiro mundo é o do Oráculo. Se parafrasearmos os filmes de Matrix, o Oráculo era aquela pessoa (programa de computador) na qual você podia fazer perguntas e ela respondia de forma enigmática, muitas vezes causando mais dúvidas do que certezas. Mas pelo fato de ela ser uma figura de respeito, o protagonista simplesmente aceitava aquilo como verdade absoluta e seguia aquele destino sem questionar.

Por outro lado, o segundo mundo é o do Robin, fiel parceiro do Batman. O Robin não era um “pau mandado” do Batman. Ele o ajudava em suas missões e a combater os mais diversos inimigos; algumas vezes apoiando, outras vezes indo de encontro ao que o Batman acreditava. A confiança aí se mostra pelo fato de que não existe uma verdade absoluta que não possa ser checada e verificada. O que existe é uma “desconfiança confiável”, na qual ao dar uma ordem ou recebê-la, existe um processamento para ver se aquilo realmente é útil, válido ou aceitável pra missão.

O que eu tenho visto ultimamente acontecer com frequência impressionante são muitas pessoas usando as ferramentas de IA da mesma forma que antigamente (e algumas vezes, atualmente) se usam ferramentas de busca. “Afinal de contas, se a máquina falou que tá certo, quem sou eu, um reles humano, para questioná-la?”

O equilíbrio de confiança e desconfiança é sempre saudável em qualquer relação, tanto entre humanos, quanto entre humanos e máquinas. A partir do momento em que nós tivermos confiança cega em alguma coisa, deixaremos de ser seres pensantes e passaremos a ser papagaios repetidores sem possibilidade de opinar.