Eligiendo el Modelo Correcto
El modelo que elijas afecta dramáticamente el tiempo de entrenamiento, calidad y requisitos de hardware. Esta guía te ayuda a tomar la decisión correcta.Tamaño del Modelo vs Hardware
La regla de oro: Un modelo necesita aproximadamente 2x su conteo de
parámetros en GB de memoria para entrenamiento. Un modelo de 7B necesita ~14GB
de VRAM para entrenamiento completo, o ~8GB con LoRA.
Referencia Rápida
Fórmula de Estimación de Memoria
- Entrenamiento completo: 7B × 16 = ~112GB (necesita multi-GPU)
- Con LoRA: 7B × 2 + 2GB = ~16GB
- Con LoRA + int4: 7B × 0.5 + 2GB = ~6GB
Modelos Base vs Instruction-Tuned
Esta es una de las decisiones más importantes que tomarás.Modelos Base (Preentrenados)
Ejemplos:google/gemma-2-2b, meta-llama/Llama-3.2-1B
Qué son: Entrenados en texto crudo para predecir la siguiente palabra. Conocen el lenguaje pero no saben cómo ser útiles.
Cuándo usar:
- Tienes muchos datos de entrenamiento (10k+ ejemplos)
- Quieres control total sobre el comportamiento del modelo
- Estás entrenando para un formato específico (no chat)
- Quieres crear tu propio estilo de instrucción
Modelos Instruction-Tuned (IT/Instruct)
Ejemplos:google/gemma-2-2b-it, meta-llama/Llama-3.2-1B-Instruct
Qué son: Modelos base que ya han sido entrenados para seguir instrucciones y ser útiles.
Cuándo usar:
- Tienes datos de entrenamiento limitados (100-5k ejemplos)
- Quieres refinar comportamiento útil existente
- Estás construyendo un chatbot o asistente
- Quieres resultados más rápidos con menos datos
Matriz de Decisión
Familias de Modelos
Google Gemma
Versiones: Gemma 2, Gemma 3
Fortalezas: Excelente para tamaños más pequeños, eficiente, buen soporte multilingüe
Consejo: Agrega sufijo
-it para versiones instruction-tuned
Meta Llama
Versiones: Llama 3.1, Llama 3.2
Fortalezas: Calidad excelente, razonamiento fuerte, gran soporte de la comunidad
Nota: Requiere aceptar licencia en HuggingFace primero
Mistral
Fortalezas: Eficiente, inferencia rápida, bueno en código
Consejo: Mistral a menudo supera su clase de peso
Qwen (Alibaba)
Fortalezas: Excelente multilingüe, especialmente idiomas asiáticos
Buscando Modelos
En el asistente, usa estos comandos:Opciones de Ordenación
Consejos para Elegir
Comienza pequeño, escala después
Comienza pequeño, escala después
Siempre comienza con un modelo más pequeño como
gemma-3-270m. Haz que tu pipeline funcione, verifica que tu dataset esté formateado correctamente, luego escala a modelos más grandes.No persigas el modelo más grande
No persigas el modelo más grande
Un modelo de 3B bien entrenado a menudo supera a un modelo de 7B mal
entrenado. Enfócate en la calidad de los datos primero, luego escala el
modelo.
Combina modelo con datos
Combina modelo con datos
Si solo tienes 500 ejemplos, un modelo de 270M-1B es suficiente. Usar un
modelo de 7B solo memorizará tus datos en lugar de aprender patrones.
Considera los costos de inferencia
Considera los costos de inferencia
Si estás desplegando el modelo, recuerda: los modelos más grandes cuestan más
para ejecutar. Un modelo de 1B es 7x más barato de servir que un modelo de 7B.
Prueba instruction-tuned primero
Prueba instruction-tuned primero
A menos que tengas 10k+ ejemplos de alta calidad, comienza con un modelo instruction-tuned. Obtendrás mejores resultados más rápido.
Validando Tu Elección
Después de seleccionar un modelo, el asistente valida que existe:Próximos Pasos
Guía de Datasets
Prepara tus datos de entrenamiento
LoRA para Modelos Grandes
Entrena modelos más grandes en hardware limitado