AI Lab — Newsletter — 24/09/2025

O AI Lab é um espaço para mergulharmos juntos nas novidades da IA, discutirmos tendências e, sempre que possível, testarmos inovações na prática. Esta é uma iniciativa do curso de Graduação Digital 4D Inteligência Artificial: Sistemas de dados inteligentes da PUCPR.

Vamos falar um pouco sobre closed-source e open-weight models?

Nesta publicação do usuário Chris Laub, ele faz uma thread sobre as principais diferenças entre os modelos abertos e fechados sob diversas perspectivas, indo muito além da performance apenas. Vale dar uma olhada.

Neste mesmo assunto, um usuário do X, fez uma análise interessante sobre os possíveis cenários de evolução de modelos abertos vs fechados.

Dá uma olhada nesta publicação aqui também, que discute um pouco o porquê da China estar “inundando” o mercado de LLMs open-weight e discute os impactos disto (algumas outras iniciativas governamentais de IA estão surgindo além da China).

E para finalizar a questão de modelos abertos, mais uma iniciativa bacana de produção de recursos, desta vez para os países da América Latina.

Quer fazer alguns experimentos gratuitamente?

Uma boa pedida é criar uma conta no OpenRouter.ai, ele oferece uma gama enorme de LLMs através de sua API, e alguns destes modelos de maneira gratuita (claro que com algumas limitações de uso). O recém-lançado Nemotron Nano 9B, da NVIDIA, está liberado para uso gratuito atualmente. Aproveite.

Mas professor, quais materiais complementares você indica?

Já falamos muito em edições passadas do AI Lab sobre os cursos da HuggingFace. Agora eles lançaram um novo curso chamado **smol course*, que fornece certificado, sobre fine-tuning, instruction-tuning, reinforcement learning*, avaliação de modelos e criação de dados sintéticos.

— Professor, quero ainda mais conteúdo prático e mão na massa, em que eu aprenda construindo algo.

Dá uma olhada neste tutorial simples que mostra como construir um pequeno agente com RAG rodando na sua própria máquina. Veja também este link com vários notebooks de NLP.

— E quais ferramentas você recomenda olhar mais a fundo?

Olha este overview aqui sobre as diferenças do n8n e LangGraph, que são suas ferramentas muito poderosas para workflows, automações e agentes de IA.

Não caia na armadilha dos Comerciantes de Complexidade

Neste keynote de abertura, David Hansson, o criador do Ruby on Rails, fala sobre algo que ele chama de Comerciantes de Complexidade. No vídeo ele conta sobre como as big techs se beneficiam da criação de “soluções” complexas que muitas vezes são desnecessárias. É uma reflexão muito boa para um momento da tecnologia em que subir uma simples aplicação online parece ser uma atividade super complexa e que demande um time inteiro (confesso que vendo o vídeo me deu saudade do meu início de carreira como desenvolvedor de software).

LLMs para nerds — se você quer apenas aplicar e construir soluções de IA, esta seção não é para você

Nos últimos dias saíram alguns bons materiais para quem quer realmente se aprofundar nos LLMs e entender a fundo o seu funcionamento. Nesta publicação, os pesquisadores fizeram um ótimo levantamento sobre o processo de inferência e agentes de LLM.

Ainda no tema da inferência, este excelente post, mostra que é possível fazer com que um LLM faça uma previsão determinística ao invés de probabilística, ou seja, uma maneira de resolver aquele “problema” conhecido em que os LLMs não conseguem repetir uma mesma resposta dado um mesmo conjunto de entradas.

Quer entender mais a fundo sobre o funcionamento dos LLMs? Então reserva umas duas horinhas para ler este ótimo post, que detalha o funcionamento.

A arquitetura Transformers vai muito além da IA Generativa

A arquitetura Transformers, que é a base do boom de IA que tivemos nos últimos anos não resume-se apenas a modelos generativos. Explicando de maneira curta: um modelo baseado no encoder é como alguém que lê e entende um texto inteiro pra extrair o sentido geral (usado em tarefas como classificação, análise de sentimentos, etc.). Já o decoder é como alguém que escreve palavra por palavra, prevendo a próxima com base no que já foi dito.

Neste contexto, foi lançado o Multilingual ModernBERT, que é uma repaginada no modelo BERT original (arquitetura baseada no Encoder, ou seja, não-generativa), que pode ser muito útil para tarefas de classificação de texto por exemplo.

Você está usando prompts de maneira errada…

Post bem interessante da Cheila Portela (nossa próxima convidada na Masterclass) sobre role-prompting, explicando um pouco novas formas de escrever prompts para agentes, e falando um pouco de como a primeira parte do prompt é uma “área nobre”.

Falando em prompt, a última novidade é o GEPA, uma técnica de otimização de prompts que tem tido ótimos resultados. Aqui um exemplinho para extração de entidades no texto. Se tiver um tempinho coloca o DSPy e o GEPA na sua lista de estudos.

Olha só o bafafá que o prompt injection está causando no mundo científico.

Atualizações da OpenAI

Você sabia que pelo menos até o final da década a OpenAI só dará prejuízo? O ritmo do burn rate da empresa só aumenta. Este é mais um exemplo de como é complexo atingir o sucesso financeiro trabalhando com produtos de IA Generativa.

Acho que já contei para vocês que lá na época do GPT-2, quando a OpenAI viu o quão promissora era a tecnologia que tinham em mãos, eles acabaram mudando a missão da empresa que era para ser um entidade sem fins lucrativos que ajudaria a humanidade a avançar no mundo da IA. Até hoje eles estão com dificuldades de legalmente fazer a transição para ser uma empresa COM fins lucrativos, estão considerando até mudar de estado.

Notícias dizem que a OpenAI e Microsoft chegaram a um acordo para estender sua parceria e facilitar este processo de transição (apesar disso, a Microsoft fechou um acordo com a concorrente nos último dias).

A OpenAI também não quer ficar dependente da Microsoft, e fechou um ENORME acordo de infraestrutura com a Oracle, algo que chega na casa de $ 300 BILHÕES DE DÓLARES! No final das contas muita dessa grana gerada pelas tecnologias de IA de ponta acabam ficando com as big techs mesmo, como vocês podem ver na imagem a seguir (e no meme tb).

Nem só de bastidores vive a OpenAI. Eles publicaram um artigo muito interessante sobre o porquê da alucinação em modelos de linguagem. O artigo mostra que LLMs “alucinam” porque foram treinados para prever sequências plausíveis, não para distinguir fato de invenção. No pré-treino, lacunas nos dados forçam o modelo a “completar” mesmo sem certeza, e nos benchmarks a métrica de avaliação geralmente pune mais a omissão que o erro, incentivando respostas fabricadas. A solução proposta é repensar as métricas e dar valor explícito à incerteza. Dá uma olhada aqui que já fizeram uma explicação mais detalhada sobre isso.

Outra iniciativa bacana foi o lançamento do OpenAI for startups, que é uma iniciativa da OpenAI para ajudar startups que estão desenvolvendo produtos com IA, oferecendo suporte técnico, credenciais, aprendizado e recursos para acelerar o crescimento, desde que usem APIs/modelos da OpenAI.

No contexto de novas features do chatGPT, uma legal que foi atendida depois de vários pedidos, é a possibilidade de criar “branchs” de conversas, bem útil para explorar diferentes direções sem perder a conversa original.

Para fechar nossa seção sobre a OpenAI, veja esta análise com algumas evidências dos dados utilizados no treinamento do GPT-OSS e também um blogpost sobre a possibilidade de utilizar o modelo open-weight da OpenAI diretamente na biblioteca Transformers.

Sobre IA e mercado de trabalho. De novo.

Será que a IA está mesmo acabando com alguns empregos? Dá uma olhada neste texto que discute sobre isso a partir de alguns números reais dos EUA.

Veja também o Anthropic Economic Index, que mostra a adoção da IA em diversas regiões e evidencia o panorama econômico e diferenças de adoção em diferentes profissões. Em um contexto similar, esta publicação mostra como as pessoas usam o chatGPT.

Já aqui, eles mostram evidências de que as vagas de trabalho estão exigindo skills de IA, no que eles chamam de AI-native talent.

E no contexto da construção de sistemas, a reportagem a seguir discute sobre o futuro da engenharia de software pós-IA Generativa. Neste mesmo assunto, o Google publicou um report sobre como os desenvolvedores estão utilizando IA, e ainda divulgou também uma espécie de guia para o sucesso no uso destas ferramentas para o desenvolvimento de software.

Algumas rapidinhas para fechar a edição de hoje

• Biblioteca que permite você ter um “Pro Mode” de alguns LLMs, como o Nemotron da Nvidia (notebooks prontos para uso).
• Mais um excelente texto da Anthropic que mostra como construir tools para agentes, com a ajuda de agentes.
• Uma análise bem bacana sobre o principal gargalho computacional das LLMs hoje, a memória.
• Um usuário do Reddit fez um benchmark de 41 modelos open-source localmente em 19 datasets
• Dessa vez o MIT que produziu um relatório sobre uso de IA nas empresas. Veja aqui alguns dos principais pontos.
• Predições para IA em 2027
• Impacto secundário da IA em produtos de tecnologia, exemplo do MongoDB.
• Artigo muito importante sobre os impactos econômicos da IA.
• Algumas dicas bem úteis do pessoal o YCombinator para o uso de ferramentas de apoio à escrita de código