模型微调 (Fine-tune) 指南,帮助开发者基于自有数据对预训练模型进行定制化训练。
1. 模型微调简介
模型微调是一种在已有预训练模型的基础上,通过使用特定任务的数据集进行进一步训练的技术。这种方法允许模型在保持其在大规模数据集上学到的通用知识的同时,适应特定任务的细微差别。使用微调模型,可以获得以下好处:
- 提高性能:微调可以显著提高模型在特定任务上的性能。
- 减少训练时间:相比于从头开始训练模型,微调通常需要较少的训练时间和计算资源。
- 适应特定领域:微调可以帮助模型更好地适应特定领域的数据和任务。
KHB 算力平台提供高效的模型微调能力,目前有以下模型支持微调:
对话模型已支持
- Qwen/Qwen2.5-7B-Instruct
- Qwen/Qwen2.5-14B-Instruct
- Qwen/Qwen2.5-32B-Instruct
- Qwen/Qwen2.5-72B-Instruct
最新支持的模型参考 模型微调。
2. 使用流程
2.1 准备数据
语言模型数据准备
仅支持 .jsonl 文件,且需符合以下要求:
- 每行是一个独立的
JSON对象。 - 每个对象必须包含键名为
messages的数组,数组不能为空。 messages中每个元素必须包含role和content两个字段。role必须是system、user或assistant之一。
示例数据格式:
{"messages": [{"role": "system", "content": "你是一个专业的客服助手"}, {"role": "user", "content": "如何重置密码?"}, {"role": "assistant", "content": "请访问个人中心-安全设置,点击重置密码..."}]}
{"messages": [{"role": "user", "content": "营业时间是什么时候?"}, {"role": "assistant", "content": "我们的营业时间是周一至周五 9:00-18:00"}]}
2.2 上传数据集
登录 KHB 平台,进入”模型微调”页面,点击”上传数据集”,选择符合格式要求的 .jsonl 文件。
2.3 创建微调任务
- 选择基础模型
- 选择已上传的数据集
- 设置训练超参数(学习率、batch size、训练轮数等)
- 填写任务名称和描述
- 点击”创建任务”开始训练
2.4 等待训练完成
训练时长取决于数据集大小、模型规模、超参数配置等因素。训练过程中可在任务详情页查看实时进度、loss 曲线等。
2.5 部署与使用
训练完成后,可在”我的模型”列表中找到微调后的模型。将其部署为预留实例,即可通过专属 API Key 调用。
3. 计费说明
模型微调按训练和推理两个不同场景独立计费。具体费用查看路径: 模型微调 → 新建微调任务 → 选择所需的”基础模型”,页面会显示对应的”微调训练价格”和”微调推理价格”。
4. 注意事项
- 数据集应尽可能覆盖目标任务的典型场景,提升微调效果。
- 训练过程中请勿关闭浏览器或刷新页面,以免任务异常中断。
- 微调任务一旦创建,基础模型、数据集等参数不可修改,需重新创建任务。
- 微调模型部署为预留实例后,使用专属 API Key 调用,与平台通用 API 隔离。
5. 常见问题
Q1. 微调任务失败,如何排查?
查看任务详情页的错误日志,常见原因包括:数据集格式错误、超参数配置不当、账户余额不足等。
Q2. 微调后的模型可以商用吗?
微调模型的使用范围受限于基础模型的许可协议,请在创建微调任务前查阅相关协议。
Q3. 数据集大小有限制吗?
单次上传数据集大小不超过 1 GB,行数不超过 50,000 行。如有更大需求,请联系 KHB 客服。