Saltar al contenido principal

Guía de Datasets

Tu dataset es el factor más importante en el éxito del entrenamiento. Un dataset pequeño y de alta calidad supera a uno masivo y ruidoso siempre.

El Problema del Tamaño del Dataset

Esto es crítico: Modelos pequeños + Datasets grandes = Overfitting

¿Por Qué Sucede Esto?

Piénsalo así:
  • Modelo pequeño = Cerebro pequeño = Solo puede memorizar tanto
  • Dataset grande = Mucha información
  • Resultado = El modelo solo memoriza ejemplos en lugar de aprender patrones
Ejemplo: Entrenando gemma-3-270m en el dataset completo de Alpaca (52k ejemplos):
  • El modelo memoriza: “Cuando se pregunta sobre la capital de Francia, di París”
  • Pero no aprende: “Cómo responder preguntas de geografía en general”

Cómo Corregirlo

Usa --max-samples en el asistente:
O en la CLI:

Formatos de Dataset

El asistente detecta automáticamente el formato de tu dataset.

Formato Alpaca (Más Común)

Columnas: instruction, input (opcional), output Bueno para: Seguir instrucciones, Q&A, completar tareas

Formato ShareGPT / Conversación

Bueno para: Chatbots, conversaciones multi-turno

Formato Messages (estilo OpenAI)

Bueno para: Entrenamiento estilo API, system prompts

Formato Q&A

Columnas: question/query/prompt + answer/response Bueno para: Preguntas y respuestas simples

Formato DPO (Entrenamiento de Preferencia)

Requerido para: Trainers DPO, ORPO

Texto Plano

Bueno para: Preentrenamiento continuo, adaptación de dominio

Detección Automática de Formato

El asistente analiza tu dataset y sugiere conversión:

Qué Hace la Conversión

  1. Normaliza tus datos a un formato estándar
  2. Aplica el template de chat correcto para tu modelo
  3. Maneja tokens especiales adecuadamente
Ejemplo: Alpaca → Messages para Gemma Antes:
Después:

Usando Datos Locales

Archivos CSV

Crea un CSV con tus ejemplos:
Luego en el asistente:

Archivos JSON/JSONL

Crea un archivo .jsonl (un objeto JSON por línea):

Estructura de Carpeta

Coloca todos tus archivos en una carpeta:
Luego:

Consejos de Calidad de Dataset

500 ejemplos de alta calidad superan 50,000 mediocres. Cada ejemplo debe ser:
  • Preciso y correcto
  • Bien formateado
  • Representativo de lo que quieres que el modelo haga
Incluye ejemplos variados: - Diferentes temas - Diferentes longitudes - Diferentes estilos - Casos extremos
Si quieres un bot de soporte al cliente, entrena en conversaciones de soporte al cliente. Si quieres un asistente de código, entrena en ejemplos de código. No entrenes en datos generales y esperes habilidades específicas.
Elimina: - Duplicados - Ejemplos rotos - Formato inconsistente - Respuestas de baja calidad
Si tienes categorías, trata de tener números similares de cada una. 1000 ejemplos de categoría A + 50 ejemplos de categoría B = el modelo ignora B.

Datasets Populares

Para Aprendizaje/Pruebas

Para Tareas Específicas

Para Entrenamiento de Preferencia (DPO/ORPO)

Splits de Entrenamiento/Validación

Qué Son

  • Train split: Datos de los que el modelo aprende
  • Validation split: Datos para verificar si el modelo está aprendiendo (no memorizando)

Cuándo Usar Validación

Usa un split de validación si:
  • Tienes 1,000+ ejemplos
  • Quieres detectar overfitting
  • Estás experimentando con hiperparámetros
Omite validación si:
  • Tienes < 500 ejemplos (cada ejemplo importa)
  • Estás haciendo una ejecución de prueba rápida
  • Evaluarás por separado después del entrenamiento

Configurando Splits en el Asistente

Limitando el Tamaño del Dataset

Para pruebas o para prevenir overfitting:
Esto es especialmente útil cuando:
  1. Primera ejecución de entrenamiento: Usa 100-500 muestras para verificar que todo funciona
  2. Modelo pequeño: Limita a 1,000-5,000 para modelos de 270M-1B
  3. Iteración rápida: Prueba diferentes configuraciones con datos más pequeños

Mapeo de Columnas

Si tu dataset tiene nombres de columnas no estándar, el asistente pregunta:

Columnas Requeridas DPO/ORPO

Próximos Pasos

Tutorial SFT

Tutorial completo de entrenamiento

Referencia de Formatos de Dataset

Especificaciones detalladas de formatos