Escolhendo o Modelo Certo

O modelo que você escolhe afeta drasticamente o tempo de treinamento, qualidade e requisitos de hardware. Este guia ajuda você a fazer a escolha certa.

Tamanho do Modelo vs Hardware

A regra de ouro: Um modelo precisa de aproximadamente 2x sua contagem de parâmetros em GB de memória para treinamento. Um modelo de 7B precisa de ~14GB de VRAM para treinamento completo, ou ~8GB com LoRA.

Referência Rápida

Seu Hardware	Tamanho Máximo do Modelo	Modelos Recomendados
MacBook Air M1 (8GB)	500M - 1B	`google/gemma-3-270m`
MacBook Pro M2 (16GB)	1B - 3B	`google/gemma-2-2b`, `Llama-3.2-1B`
MacBook Pro M3 Max (36-64GB)	7B - 13B	`Llama-3.2-8B`, `Mistral-7B`
RTX 3060/3070 (8-12GB)	1B - 3B	`gemma-2-2b`, `Llama-3.2-3B`
RTX 3090/4090 (24GB)	7B - 13B	`Llama-3.2-8B`, `Mistral-7B`
A100 (40-80GB)	30B - 70B	`Llama-3.1-70B` com quantização

Fórmula de Estimativa de Memória

Full training:   params × 4 bytes × 4 (model + optimizer + gradients + activations)
With LoRA:       params × 2 bytes + ~2GB
With LoRA + int4: params × 0.5 bytes + ~2GB

Exemplo: Modelo de 7B

Treinamento completo: 7B × 16 = ~112GB (precisa de multi-GPU)
Com LoRA: 7B × 2 + 2GB = ~16GB
Com LoRA + int4: 7B × 0.5 + 2GB = ~6GB

Modelos Base vs Instruction-Tuned

Esta é uma das decisões mais importantes que você fará.

Modelos Base (Pré-treinados)

Exemplos: google/gemma-2-2b, meta-llama/Llama-3.2-1B O que são: Treinados em texto bruto para prever a próxima palavra. Eles conhecem linguagem mas não sabem como ser úteis. Quando usar:

Você tem muitos dados de treinamento (10k+ exemplos)
Você quer controle total sobre o comportamento do modelo
Você está treinando para um formato específico (não chat)
Você quer criar seu próprio estilo de instrução

Comportamento de exemplo antes do treinamento:

User: What is the capital of France?
Model: The question was first posed in 1789 when...

Modelos Instruction-Tuned (IT/Instruct)

Exemplos: google/gemma-2-2b-it, meta-llama/Llama-3.2-1B-Instruct O que são: Modelos base que já foram treinados para seguir instruções e ser úteis. Quando usar:

Você tem dados de treinamento limitados (100-5k exemplos)
Você quer refinar comportamento útil existente
Você está construindo um chatbot ou assistente
Você quer resultados mais rápidos com menos dados

Comportamento de exemplo antes do treinamento:

User: What is the capital of France?
Model: The capital of France is Paris.

Matriz de Decisão

Situação	Use Base	Use Instruction-Tuned
Menos de 1k exemplos		✓
1k - 10k exemplos	Depende	✓
10k+ exemplos	✓
Caso de uso chat/assistente		✓
Formato customizado (não chat)	✓
Específico de domínio (médico, jurídico)	✓	✓ (qualquer um funciona)
Geração de código		✓
Escrita criativa	✓	✓ (qualquer um funciona)

Famílias de Modelos

Google Gemma

Versões: Gemma 2, Gemma 3

Modelo	Tamanho	Melhor Para
`google/gemma-3-270m`	270M	Testes, aprendizado, CPU/Apple Silicon
`google/gemma-2-2b`	2B	GPUs de consumo, bom equilíbrio qualidade/velocidade
`google/gemma-2-9b`	9B	Alta qualidade em hardware bom
`google/gemma-2-27b`	27B	Melhor qualidade Gemma, precisa de hardware sério

Pontos fortes: Ótimo para tamanhos menores, eficiente, bom suporte multilíngue Dica: Adicione sufixo -it para versões instruction-tuned

Meta Llama

Versões: Llama 3.1, Llama 3.2

Modelo	Tamanho	Melhor Para
`meta-llama/Llama-3.2-1B`	1B	Mobile, dispositivos edge
`meta-llama/Llama-3.2-3B`	3B	Hardware de consumo
`meta-llama/Llama-3.1-8B`	8B	Propósito geral, qualidade excelente
`meta-llama/Llama-3.1-70B`	70B	Qualidade de produção, precisa de GPU na nuvem

Pontos fortes: Qualidade excelente, raciocínio forte, grande suporte da comunidade Nota: Requer aceitar licença no HuggingFace primeiro

Mistral

Modelo	Tamanho	Melhor Para
`mistralai/Mistral-7B-v0.3`	7B	Ótima proporção qualidade/eficiência
`mistralai/Mixtral-8x7B`	8x7B	Arquitetura MoE, inferência rápida

Pontos fortes: Eficiente, inferência rápida, bom em código Dica: Mistral frequentemente supera sua classe de peso

Qwen (Alibaba)

Modelo	Tamanho	Melhor Para
`Qwen/Qwen2.5-0.5B`	500M	Ultra-pequeno, dispositivos edge
`Qwen/Qwen2.5-3B`	3B	Equilibrado para hardware de consumo
`Qwen/Qwen2.5-7B`	7B	Excelente multilíngue, especialmente chinês

Pontos fortes: Excelente multilíngue, especialmente idiomas asiáticos

Buscando Modelos

No assistente, use estes comandos:

# Search by name
/search llama

# Search by capability
/search code
/search multilingual

# Filter by size
/filter

# Sort options
/sort

Opções de Ordenação

Opção	Quando Usar
Trending	Veja o que está popular agora
Downloads	Modelos mais comprovados/usados
Likes	Favoritos da comunidade
Recent	Lançamentos mais recentes

Dicas para Escolher

Comece pequeno, escale depois

Sempre comece com um modelo menor como gemma-3-270m. Faça seu pipeline funcionar, verifique se seu dataset está formatado corretamente, depois escale para modelos maiores.

Não persiga o maior modelo

Um modelo de 3B bem treinado frequentemente supera um modelo de 7B mal treinado. Foque na qualidade dos dados primeiro, depois escale o modelo.

Combine modelo com dados

Se você só tem 500 exemplos, um modelo de 270M-1B é suficiente. Usar um modelo de 7B vai apenas memorizar seus dados em vez de aprender padrões.

Considere custos de inferência

Se você está implantando o modelo, lembre-se: modelos maiores custam mais para executar. Um modelo de 1B é 7x mais barato para servir do que um modelo de 7B.

Tente instruction-tuned primeiro

A menos que você tenha 10k+ exemplos de alta qualidade, comece com um modelo instruction-tuned. Você obterá melhores resultados mais rápido.

Validando Sua Escolha

Após selecionar um modelo, o assistente valida se ele existe:

✓ Model: google/gemma-3-270m

Se não existir:

❌ Model 'google/gemma3-270m' not found on HuggingFace Hub.
  Suggestions: Did you mean 'google/gemma-3-270m'?
  Check the model ID at https://huggingface.co/models

Try again with a different model? [Y/n]:

Começando

Entendendo Opções

Escolhendo Modelos

Escolhendo o Modelo Certo

Tamanho do Modelo vs Hardware

Referência Rápida

Fórmula de Estimativa de Memória

Modelos Base vs Instruction-Tuned

Modelos Base (Pré-treinados)

Modelos Instruction-Tuned (IT/Instruct)

Matriz de Decisão

Famílias de Modelos

Google Gemma

Meta Llama

Mistral

Qwen (Alibaba)

Buscando Modelos

Opções de Ordenação

Dicas para Escolher

Validando Sua Escolha

Próximos Passos

Guia de Datasets

LoRA para Modelos Grandes

​Escolhendo o Modelo Certo

​Tamanho do Modelo vs Hardware

​Referência Rápida

​Fórmula de Estimativa de Memória

​Modelos Base vs Instruction-Tuned

​Modelos Base (Pré-treinados)

​Modelos Instruction-Tuned (IT/Instruct)

​Matriz de Decisão

​Famílias de Modelos

​Google Gemma

​Meta Llama

​Mistral

​Qwen (Alibaba)

​Buscando Modelos

​Opções de Ordenação

​Dicas para Escolher

​Validando Sua Escolha

​Próximos Passos

Guia de Datasets

LoRA para Modelos Grandes

Escolhendo o Modelo Certo

Tamanho do Modelo vs Hardware

Referência Rápida

Fórmula de Estimativa de Memória

Modelos Base vs Instruction-Tuned

Modelos Base (Pré-treinados)

Modelos Instruction-Tuned (IT/Instruct)

Matriz de Decisão

Famílias de Modelos

Google Gemma

Meta Llama

Mistral

Qwen (Alibaba)

Buscando Modelos

Opções de Ordenação

Dicas para Escolher

Validando Sua Escolha

Próximos Passos