​

训练任务类型

​

文本任务

​

Text Classification

• 电子邮件垃圾邮件检测
• 客户反馈情感（高兴/不高兴）
• 支持工单路由
• 内容审核
• 语言检测

• 文本样本
• 每个样本的类别标签
• 每个类别至少 50 个示例（越多越好）

text,label
"Great product, highly recommend!",positive
"Terrible experience, waste of money",negative
"The item arrived damaged",negative
"Excellent customer service",positive

​

Token Classification (NER)

• 从文档中提取姓名、日期、地点
• 在评论中识别产品提及
• 在临床笔记中查找医学术语
• 突出重要合同条款
• 标记词性

• 带有标记实体的文本
• BIO 格式（Beginning、Inside、Outside）标签
• 数百个带注释的示例

John B-PERSON
Smith I-PERSON
visited O
New B-LOCATION
York I-LOCATION
yesterday B-DATE

​

Sequence to Sequence

• 语言翻译
• 文本摘要
• 问答
• 文本纠正
• 释义

• 输入文本
• 期望的输出文本
• 输入-输出示例对

input_text,target_text
"The quick brown fox jumps over the lazy dog","Le renard brun rapide saute par-dessus le chien paresseux"
"Hello, how are you?","Bonjour, comment allez-vous?"

​

Text Generation (LLM Fine-tuning)

• 自定义聊天机器人
• 领域特定助手
• 代码生成
• 创意写作
• 技术文档

• 对话示例或指令-响应对
• 可选：用于 RLHF 的偏好数据
• 可以仅用 100 个示例工作

{
  "messages": [
    {"role": "user", "content": "What is photosynthesis?"},
    {"role": "assistant", "content": "Photosynthesis is the process plants use to convert sunlight into energy..."}
  ]
}

​

图像任务

​

Image Classification

• 产品质量检查
• 医学图像诊断
• 野生动物识别
• 文档类型分类
• 面部表情识别

• 图像（JPG、PNG）
• 每个图像的类别标签
• 每个类别至少 100 张图像

data/
  cats/
    cat1.jpg
    cat2.jpg
  dogs/
    dog1.jpg
    dog2.jpg

​

Object Detection

• 库存计数
• 安全监控
• 自动驾驶
• 缺陷检测
• 人员计数

• 带边界框的图像
• 每个框的标签
• COCO 或 YOLO 格式注释

​

结构化数据任务

​

Tabular Classification

• 客户流失预测
• 欺诈检测
• 疾病诊断
• 信用审批
• 设备故障预测

• 带特征和标签的 CSV
• 数值和分类列
• 干净、预处理的数据

age,income,credit_score,approved
25,45000,720,yes
35,65000,650,no
42,85000,780,yes

​

Tabular Regression

• 房价预测
• 销售预测
• 能耗估算
• 股价预测
• 交付时间估算

• 带特征和目标值的 CSV
• 数值目标列
• 历史数据

​

高级训练方法

​

Supervised Fine-Tuning (SFT)

​

DPO (Direct Preference Optimization)

{
  "prompt": "Write a greeting",
  "chosen": "Hello! How can I help you today?",
  "rejected": "sup"
}

​

ORPO (Odds Ratio Preference Optimization)

​

Reward Modeling

​

PPO (Proximal Policy Optimization)

​

任务选择指南

​

基于您的数据

​

基于您的目标

​

基于难度

1. Text Classification
2. Image Classification
3. Tabular Classification

1. Token Classification
2. Sequence to Sequence
3. LLM Fine-tuning (SFT)

1. DPO/ORPO 训练
2. Object Detection
3. PPO/RLHF

​

数据要求

​

所需最少数据

​

数据质量很重要

• 准确的标签
• 一致的格式
• 代表真实世界使用
• 跨类别平衡

​

多任务训练

​

好处

• 在任务之间共享知识
• 更高效地使用数据
• 单一模型部署

​

示例

• 分类情感
• 提取实体
• 总结文本

​

任务特定设置

​

文本任务

• Max sequence length：要处理多少文本
• Tokenizer：如何将文本拆分为 tokens
• Special tokens：任务特定标记

​

图像任务

• Image size：使用的分辨率
• Augmentation：旋转、翻转、裁剪
• Normalization：像素值缩放

​

表格任务

• Feature engineering：创建新列
• Scaling：标准化数值
• Encoding：处理分类变量

​

评估指标

​

组合任务

​

管道方法

1. Classification → 路由到专门模型
2. NER → 提取实体 → 生成响应
3. Translate → Summarize → Classify sentiment

​

多模态任务

• Image + Text → Visual QA
• Audio + Text → Speech recognition
• Video + Text → Video understanding

​

下一步