Como estou reduzindo o consumo de tokens usando RTK

Os tokens dos modelos de IA estão se tornando o novo pesadelo dos engenheiros de software. Conforme você vai avançando e entendendo como o consumo de tokens afeta seu bolso e consequentemente pode afetar o desenvolvimento do seu projeto você começa a buscar alternativas.

No meu caso, iniciei alguns projetos utilizando modelos com menor custo por token, o que geralmente significa menor capacidade ou velocidade. Em alguns cenários, consegui concluir tudo utilizando apenas esses modelos. Porém, em outros projetos, precisei recorrer a modelos mais avançados e foi aí que o consumo de tokens aumentou de forma significativa.

Para ilustrar, estamos no início de abril e minhas requisições de tokens premium já ultrapassaram 50% do limite mensal. Ou seja, claramente não é sustentável manter esse ritmo.

Recentemente, conheci a biblioteca RTK, desenvolvida em Rust. Ela atua interceptando a saída do terminal e filtrando conteúdo redundante antes que ele seja enviado ao modelo, ajudando a reduzir o volume de tokens consumidos.

O RTK não é uma bala de prata, mas já trouxe ganhos relevantes ao diminuir o consumo de tokens em tarefas rotineiras que o agente executa durante o desenvolvimento de alguma feature, refatoração e geração de documentação.

Alguns usuários relatam que, em sessões de aproximadamente 30 minutos, houve uma redução significativa no consumo de tokens. Sem o RTK, uma sessão pode consumir cerca de 120.000 tokens; com a ferramenta, esse número pode cair para algo em torno de 25.000 tokens.

A instalação no macOS é simples:

brew install rtk
rtk init - global

Para engenheiros que utilizam ferramentas como Claude Code, Cursor ou fluxos personalizados com agentes de IA, o RTK pode atuar como uma camada intermediária interessante, ajudando o modelo a focar mais na lógica e menos em ruídos desnecessários.

Ferramentas como RTK ajudam, mas a maior economia ainda vem de mudanças no fluxo de trabalho, principalmente em como usamos contexto e iteramos com ele.