SCAO v0.2.2: Rumo a um ajuste fino mais prático e esparso, sensível à curvatura.

Uma nova versão focada em fluxos de trabalho de ajuste fino no mundo real, integração com o Hugging Face, planejamento de modelos grandes e prontidão para produção.

O ajuste fino de grandes modelos de linguagem está se tornando um dos fluxos de trabalho de engenharia mais importantes em IA.

Mas, à medida que os modelos crescem, o custo da otimização torna-se mais difícil de ignorar. O uso de memória, a dinâmica instável do treinamento, a eficiência da GPU e o atrito de integração são fatores importantes, especialmente para equipes que treinam ou adaptam modelos em grande escala.

Essa é a motivação por trás do SCAO: Otimização Esparsa Sensível à Curvatura.

Hoje estou lançando o SCAO v0.2.2 no PyPI.

pip install -U scao

O SCAO é um otimizador para PyTorch projetado para explorar o pré-condicionamento esparso com reconhecimento de curvatura como um caminho prático para um ajuste fino mais eficiente. O objetivo não é apenas introduzir mais um otimizador, mas tornar as informações de curvatura utilizáveis ​​em fluxos de trabalho reais, onde as pessoas se preocupam com estabilidade, memória e integração com conjuntos de treinamento existentes.

Esta versão foca-se na preparação para produção.

Novidades na versão 0.2.2:

• Integração do Hugging Face Trainer
• políticas de pré-condicionamento seletivo
• Configurações padrão mais seguras para modelos maiores
• Ferramentas de planejamento em escala para cenários de 40 bilhões e 140 bilhões+
• um microbenchmark de pré-condicionador CLI
• Comportamento alternativo aprimorado quando a extensão CUDA não estiver disponível.
• Validação no Google Colab T4 usando cargas de trabalho reais de ajuste fino.

Um objetivo importante do projeto era dar suporte a diferentes tipos de usuários.

Para pesquisadores e construtores individuais, o SCAO deve ser fácil de instalar e testar:

from scao import SCAO

Para equipes que realizam ajustes finos em larga escala, o otimizador precisa de controles mais precisos. Nem todos os grupos de parâmetros devem necessariamente receber a mesma estratégia de pré-condicionamento. Incorporações, cabeçalhos de modelos de linguagem, LoRa/adaptadores e blocos de transformadores densos podem ter necessidades de otimização diferentes.

Por isso, a versão 0.2.2 adiciona políticas de pré-condicionamento seletivo para fluxos de trabalho do Hugging Face. Isso possibilita o uso do SCAO de forma mais cuidadosa, em vez de aplicar um comportamento global em todos os casos.

A versão também inclui ferramentas para o planejamento de operações em maior escala:

scao-scale-planner --params-b 140 --world-size 8 --gpu-memory-gb 80

E para avaliar o desempenho do caminho do pré-condicionador:

scao-preconditioner-bench --device cuda --dim 2048 --rank 32 --iters 20

Também testei a versão no Google Colab com uma Tesla T4 usando um fluxo de trabalho de ajuste fino da Hugging Face em distilgpt2 e WikiText-2.

Resultado: o SCAO foi treinado com sucesso, avaliado com sucesso, gerou texto e concluiu as comparações com o AdamW sem erros NaN, erros OOM ou falhas de integração.

Nesta configuração T4 compacta, o AdamW ainda é mais rápido e leve. Isso já era esperado. O objetivo desta versão não é reivindicar uma vitória universal em cargas de trabalho simples. O objetivo é tornar o SCAO estável, instalável, testável e pronto para experimentos mais sérios em modelos maiores e GPUs mais potentes.

O próximo passo é avaliar o desempenho do SCAO nos ambientes onde ele realmente importa: cargas de trabalho de ajuste fino de maior porte, treinamento baseado em adaptadores, tarefas de longa duração e configurações de GPU corporativas, como clusters A100, H100 e L40S.

Links:

PyPI: https://pypi.org/project/scao/0.2.2/

GitHub: https://github.com/whispering3/SCAO

Comentários, testes, problemas e contribuições são muito bem-vindos.