SFT 数据如何筛选、采样和处理？

核心回答

SFT 数据要围绕目标任务做好三件事：筛掉错误和不一致的示范，按任务分布与薄弱能力采样，再把留下的样本处理成模型真正能学习的输入与标签。 先检查格式和答案正确性，去重并处理冲突；再覆盖任务类别、难度、长度及边界情况；最后按来源分组隔离训练、验证和测试集，核对模板、截断和损失掩码。

数据条数不是唯一目标。重复样本可能挤占训练预算，错误答案会提供错误监督；少数关键场景也可能因比例太低而学不到，需要按评测结果调整训练数据，而不是盲目扩大数据量。

筛选：格式正确只是第一关

先检查必需字段、角色顺序、空答案、乱码和内容完整性，再检查答案是否符合任务规则。知识问答要核对依据，代码任务可运行相应检查，关键词任务则要确认关键词确实来自输入并符合选词规则。模型打分可以辅助筛选，低置信或冲突样本仍应回到来源核对。

相同输入、相同答案可去重；相同输入却有相互冲突的答案，需要核查标注规则和上下文。语义相近但代表不同难度或必要边界的样本，则不能仅凭字符串相似度全部删除。清洗应保留任务需要的代码、标点和结构，不套用机械删停用词等规则。

采样：既看真实分布，也补关键能力

先给样本记录任务类别、来源、长度、难度等标签，查看是否被某个数据源或简单短回答主导。训练采样以目标使用分布为起点，必要时提高关键失败场景的权重，同时保留足够常见场景。没有适用于所有任务的固定均衡比例。

例如关键词提取，除了短文，还应覆盖长文、多主题、信息不足、同义表述及容易误选的词。模型生成或改写的样本同样需要审核，不能靠“换一种说法”增加数量后，就认定覆盖了新能力。LIMA 的研究也分别考察输入多样性与回答质量，并未证明任意任务只需某个固定条数。

划分与预处理：不要把有效监督弄丢

先完成去重和来源归组，再划分数据。同一原文产生的多个问答、同一会话或近重复样本应放在同一组；若任务要检验未来表现，还应考虑按时间隔离。训练集可以重采样，验证和测试集保留固定评测口径，避免随着调参反复迁移样本。

使用训练工具支持的记录字段，把消息交给匹配模型的对话模板和分词器。随后检查处理后的长度分布、被截断比例、答案保留情况以及真正计入损失的词元数。过长样本可以依据任务改成独立的完整样本或调整长度预算，不能只截掉尾部答案而不察觉。

多轮数据还要明确监督全部助手轮还是最后一轮。ms-swift 可以对助手消息控制是否计入损失，TRL 的助手损失配置也有模板条件。损失掩码忽略用户标签，不是把用户上下文删掉；格式能被读取，还要继续检查实际监督区域。

对应教程

参考资料