Pular para o conteúdo principal

Guia de Datasets

Seu dataset é o fator mais importante no sucesso do treinamento. Um dataset pequeno e de alta qualidade supera um massivo e ruidoso sempre.

O Problema do Tamanho do Dataset

Isso é crítico: Modelos pequenos + Datasets grandes = Overfitting

Por Que Isso Acontece?

Pense assim:
  • Modelo pequeno = Cérebro pequeno = Só pode memorizar tanto
  • Dataset grande = Muita informação
  • Resultado = Modelo apenas memoriza exemplos em vez de aprender padrões
Exemplo: Treinando gemma-3-270m no dataset completo do Alpaca (52k exemplos):
  • Modelo memoriza: “Quando perguntado sobre a capital da França, diga Paris”
  • Mas não aprende: “Como responder perguntas de geografia em geral”

Como Corrigir

Use --max-samples no assistente:
Ou na CLI:

Formatos de Dataset

O assistente detecta automaticamente o formato do seu dataset.

Formato Alpaca (Mais Comum)

Colunas: instruction, input (opcional), output Bom para: Seguir instruções, Q&A, conclusão de tarefas

Formato ShareGPT / Conversação

Bom para: Chatbots, conversas multi-turno

Formato Messages (estilo OpenAI)

Bom para: Treinamento estilo API, system prompts

Formato Q&A

Colunas: question/query/prompt + answer/response Bom para: Questionamento simples

Formato DPO (Treinamento de Preferência)

Obrigatório para: Trainers DPO, ORPO

Texto Simples

Bom para: Pré-treinamento contínuo, adaptação de domínio

Detecção Automática de Formato

O assistente analisa seu dataset e sugere conversão:

O Que a Conversão Faz

  1. Normaliza seus dados para um formato padrão
  2. Aplica o template de chat correto para seu modelo
  3. Lida com tokens especiais adequadamente
Exemplo: Alpaca → Messages para Gemma Antes:
Depois:

Usando Dados Locais

Arquivos CSV

Crie um CSV com seus exemplos:
Depois no assistente:

Arquivos JSON/JSONL

Crie um arquivo .jsonl (um objeto JSON por linha):

Estrutura de Pasta

Coloque todos os seus arquivos em uma pasta:
Depois:

Dicas de Qualidade de Dataset

500 exemplos de alta qualidade superam 50.000 medíocres. Cada exemplo deve ser:
  • Preciso e correto
  • Bem formatado
  • Representativo do que você quer que o modelo faça
Inclua exemplos variados:
  • Diferentes tópicos
  • Diferentes comprimentos
  • Diferentes estilos
  • Casos extremos
Se você quer um bot de suporte ao cliente, treine em conversas de suporte ao cliente. Se você quer um assistente de código, treine em exemplos de código. Não treine em dados gerais e espere habilidades específicas.
Remova:
  • Duplicatas
  • Exemplos quebrados
  • Formatação inconsistente
  • Respostas de baixa qualidade
Se você tem categorias, tente ter números similares de cada uma. 1000 exemplos da categoria A + 50 exemplos da categoria B = modelo ignora B.

Datasets Populares

Para Aprendizado/Testes

Para Tarefas Específicas

Para Treinamento de Preferência (DPO/ORPO)

Splits de Treino/Validação

O Que São

  • Train split: Dados dos quais o modelo aprende
  • Validation split: Dados para verificar se o modelo está aprendendo (não memorizando)

Quando Usar Validação

Use um split de validação se:
  • Você tem 1.000+ exemplos
  • Você quer detectar overfitting
  • Você está experimentando com hiperparâmetros
Pule validação se:
  • Você tem < 500 exemplos (cada exemplo importa)
  • Você está fazendo uma execução de teste rápida
  • Você vai avaliar separadamente após o treinamento

Configurando Splits no Assistente

Limitando o Tamanho do Dataset

Para testes ou para prevenir overfitting:
Isso é especialmente útil quando:
  1. Primeira execução de treinamento: Use 100-500 amostras para verificar se tudo funciona
  2. Modelo pequeno: Limite a 1.000-5.000 para modelos de 270M-1B
  3. Iteração rápida: Teste configurações diferentes com dados menores

Mapeamento de Colunas

Se seu dataset tem nomes de colunas não-padrão, o assistente pergunta:

Colunas Obrigatórias DPO/ORPO

Próximos Passos

Tutorial SFT

Tutorial completo de treinamento

Referência de Formatos de Dataset

Especificações detalhadas de formatos