🎛️ Top-K, Top-P e Temperatura — Como a IA Escolhe o que Dizer

Imagine que você entra na padaria e pergunta:“Quero algo leve para o café da manhã.”

A atendente tem várias opções na cabeça:

• Pão
• Croissant
• Bolo
• Iogurte
• Tapioca

Ela precisa decidir o que sugerir.

👉 É exatamente isso que um modelo de IA faz a cada palavra que gera.

O que está acontecendo por trás

Para cada nova palavra, o modelo:

1. Calcula várias opções possíveis
2. Atribui uma probabilidade para cada uma
3. Escolhe com base em regras

👉 Essas regras são: Top-K, Top-P e Temperatura e são elas que definem: como a IA “pensa”.

🔍 Top-K — Limitando as opções

Top-K é um parâmetro que define: quantas opções a IA pode considerar antes de escolher a próxima palavra.

Em termos simples:

• K = número de opções
• Top-K = os K candidatos mais prováveis

Vamos ao exemplo da Padaria…

Com Top-K (ex: K = 3)

Atendente: “Aqui estão as 3 melhores opções para você”

👉 A resposata é rápida 👉 relevante — sobre o que é especialidade da casa 👉 útil — baseado no que o cliente está buscando vs horário

Então como a IA funciona na prática?

• Calcula centenas de palavras possíveis
• Filtra apenas as Top-K
• Escolhe entre elas e retorna

Faça o teste…

Escreva a frase: “Hoje eu vou comer…”

Top-K = 3 pode ser as opções:

• Pão
• Pizza
• Salada

👉 a escolha será feita apenas entre as opções conforme a IA vai te conhecendo, mas caso ela não te conheça ela vai filtrar as melhores respostas, ou as Top — K.

Impacto

• K baixo → respostas mais previsíveis e seguras — mas cuidado: K muito baixo → resposta limitada.
• K alto → mais diversidade, mas mais risco — mas cuidado: K muito alto → ruído e perda de qualidade.

🌊 Top-P (Nucleus Sampling) — Foco no que importa

Top-P funciona diferente: seleciona o menor conjunto de palavras cuja soma de probabilidade atinge um limite (ex: 90%)

Padaria

Top-P = 0.9 — A atendente escolhe opções até cobrir 90% das escolhas mais prováveis:

• Pão (50%)
• Croissant (30%)
• Bolo (10%)

👉 chegou em 90% → para de fazer sugestões.

Então a IA…

• Adapta dinamicamente,
• Evita opções irrelevantes,
• Mantém qualidade.

👉 geralmente mais eficiente que Top-K puro

🌡️ Temperatura — O nível de criatividade

Temperatura controla: o quão conservadora ou criativa será a resposta

Pensando na nossa padaria…

❄️ Temperatura baixa (0.2)

👉 atendente conservadora: “Pão.”

🔥 Temperatura alta (0.9)

👉 atendente criativa: “Que tal um croissant com geleia artesanal?”

Traduzindo…

• baixa → previsível, consistente
• alta → criativa, mas pode errar.

Em nosso exemplo anterior com a frase: “Hoje eu vou comer…”

Uma configuração conservadora ficaria:

• Top-K = 3
• Top-P = 0.8
• Temperatura = 0.2

“Hoje eu vou comer pão.”

E em uma Configuração criativa:

• Top-K = 50
• Top-P = 0.95
• Temperatura = 0.9

“Hoje eu vou comer um croissant quente com manteiga.”

📊 Outras métricas importantes

Top-K não vive sozinho. Ele se conecta com métricas de qualidade como:

Precision@K: Dos K resultados, quantos são relevantes? Mede a proporção de itens relevantes entre os top-K resultados recomendados ou recuperados por um sistema, focando na qualidade do ranking. Sendo crucial para sistemas onde usuários interagem apenas com os primeiros resultados, como motores de busca e recomendações.

Recall@K (Revogação no Top-K): Dos resultados relevantes existentes, quantos você encontrou? Mede a capacidade de um modelo identificar todos os itens relevantes dentro dos primeiros resultados retornados.

MRR (Ranking Recíproco Médio): Você acertou rápido? O resultado correto veio primeiro? Mede a eficácia do modelo ao identificar a posição (ranking) do primeiro resultado relevante em uma lista.

NDCG (Ganho Cumulativo Descontado Normalizado):

Você ordenou bem os resultados? Métrica usada para avaliar a qualidade do ranqueamento (ordenação) de resultados em sistemas de busca, motores de recomendação e modelos de machine learning.

Traduzindo pra padaria

• Precision → quantas sugestões foram boas?
• Recall → você mostrou todas as opções relevantes?
• MRR → acertou de primeira?
• NDCG → ordenou bem?

Erros comuns que estão sendo observados:

• Usar temperatura alta em tarefas críticas,
• Combinar Top-K alto + Top-P alto sem controle,
• Não testar configurações antes de colocar em produção,
• Ignorar métricas — Sim e estamos aprendendo com elas…

Conexão com os artigos anteriores:

• RAG → traz contexto,
• Top-K / Top-P → filtram opções,
• Temperatura → define estilo,
• Agents → usam Top-K/Top- P para agir,
• Evals → validam qualidade,

Top-K, Top-P e Temperatura são: os controles finos da IA

Eles definem se seu sistema será:

• Confiável &
• Criativo Ou
• Caótico

“A qualidade da IA não está só no modelo. Está nas escolhas que você permite que ele faça.”