Da Curiosidade à Plataforma: Como Montei um Ambiente de IA Local com Ollama, Open WebUI e Qwen no Proxmox

Nos últimos meses venho estudando Inteligência Artificial aplicada à produtividade e automação. Como muitos profissionais de TI, comecei utilizando apenas ferramentas em nuvem como ChatGPT e Gemini. Elas são excelentes, mas eu queria entender até onde poderia chegar utilizando modelos locais executando dentro do meu próprio laboratório.

Foi assim que nasceu um novo projeto no ambiente Proxmox: criar uma plataforma de IA local capaz de compreender meus projetos, consultar documentação técnica, analisar código-fonte e futuramente auxiliar diretamente no desenvolvimento de software.

O desafio

Meu objetivo não era apenas executar um modelo de linguagem localmente.

Eu queria construir um ambiente que fosse capaz de:

• Hospedar modelos de IA localmente;
• Disponibilizar uma interface amigável para usuários;
• Armazenar conhecimento específico dos meus projetos;
• Trabalhar integrado com Git;
• Auxiliar o desenvolvimento utilizando linguagem natural.

Em outras palavras: criar meu próprio “copiloto” de desenvolvimento.

A arquitetura

A solução foi construída utilizando containers LXC no Proxmox.

CT Ollama

Responsável pela execução dos modelos de IA.

Modelos instalados:

• Qwen 2.5 Coder 3B
• Qwen 2.5 Coder 7B

Durante os testes ficou claro que o modelo 3B era excelente para consultas rápidas, enquanto o 7B apresentava melhor desempenho em análises técnicas e compreensão de código.

CT Open WebUI

Utilizado como interface gráfica.

A instalação foi realizada utilizando Docker e posteriormente atualizada para a versão 0.9.6.

Através do Open WebUI foi possível:

• Criar usuários;
• Gerenciar permissões;
• Criar Workspaces;
• Construir bases de conhecimento específicas para cada projeto.

Construindo conhecimento

Uma das etapas mais interessantes foi criar uma base documental para que a IA entendesse meu sistema financeiro pessoal desenvolvido em Streamlit.

Foram criados documentos específicos:

• MEMORIA_PROJETO.md
• REGRAS_NEGOCIO.md
• ROADMAP.md
• MAPA_CODIGO.md
• README_DEV.md

Esses documentos foram carregados em um Workspace chamado SistemaDespesas.

A partir daí a IA passou a responder perguntas contextualizadas sobre o projeto.

O teste dos modelos

Realizei diversos testes comparando:

• Qwen 2.5 Coder 3B
• Qwen 2.5 Coder 7B

O resultado foi interessante.

O modelo 3B demonstrou boa capacidade de compreender documentação.

Já o modelo 7B mostrou maior precisão em análises técnicas e interpretação de estruturas de código.

Para meu ambiente doméstico, a combinação dos dois modelos se mostrou ideal.

Entrando no desenvolvimento assistido

O próximo passo foi instalar o Aider.

O Aider permite conectar modelos locais diretamente a um repositório Git.

A arquitetura ficou assim:

Aider → Ollama → Qwen 7B → Projeto Git

Com isso, passei a ter a possibilidade de pedir alterações utilizando linguagem natural enquanto mantenho todo o controle de versionamento.

Lições aprendidas

Algumas dificuldades apareceram durante a implantação:

• Espaço insuficiente nos containers;
• Migração do Open WebUI entre versões;
• Ajuste de memória para modelos maiores;
• Integração entre containers separados.

Apesar disso, a solução final ficou extremamente estável.

Próximos passos

Meu objetivo agora é evoluir essa plataforma para que ela consiga:

• Analisar projetos completos;
• Sugerir melhorias;
• Gerar documentação automaticamente;
• Auxiliar na implementação de novas funcionalidades;
• Trabalhar integrada ao versionamento Git.

Mais do que instalar IA local, o projeto se transformou em uma plataforma completa de desenvolvimento assistido por Inteligência Artificial.

E isso abriu possibilidades que eu não imaginava quando comecei apenas querendo testar um modelo local.