返回全部题目← 上一题5 / 19下一题 →题库/模型训练与对齐/Q-3270什么是知识蒸馏？知识专题：蒸馏与模型合并题目类型：概念解释技术难度：基础相关面经：3 篇题集来源：3 个未标记未标记待复习已掌握收藏反馈（在 GitHub 新标签页打开）Sorry o(╥﹏╥)o，暂无参考答案。带这道题，问问AI吧~问 AIKimiKimi（新窗口打开）Qwen千问（新窗口打开）OpenAIChatGPT（新窗口打开）本题目录相关面经收录题集相关题目相关面经3 篇京东大模型算法工程师2026-10-17一面查看原面经 →说说你对模型蒸馏技术的理解。宇树机器人嵌入式AI岗2026-10-10一面、二面查看原面经 →知识蒸馏大概怎么做？为什么学生模型可能在体积小一些的情况下保留较好的效果？中兴Agent 开发工程师2026-05-21实习一面查看原面经 →你在介绍模型优化时提到了“蒸馏”，请解释一下什么是知识蒸馏技术。收录题集3 个来源，共10 份题集预训练与架构阿东玩 AI · AgentGuide · 1 条原题查看题集 →【知识蒸馏与无监督训练】知识蒸馏和无监督样本训练？ 「腾讯混元」多模态与计算机视觉阿东玩 AI · AgentGuide · 1 条原题查看题集 →【ViT训练方式】现在ViT的训练方式有哪些？请列举并解释常见的ViT训练策略，如预训练+微调、知识蒸馏、自监督学习等。 「百度文心」AI系统与训练推理工程阿东玩 AI · AgentGuide · 1 条原题查看题集 →【知识蒸馏】请介绍知识蒸馏的常见模型、改进方法、蒸馏流程、作用，以及是否考虑过蒸馏或自训练方式？ 「字节跳动、百度、美团、腾讯混元」深度学习基础汇编阿东玩 AI · AgentGuide · 1 条原题查看题集 →【与蒸馏区别】模型蒸馏（model distillation）与训练稳定性有何区别？请解释与蒸馏的区别。 「腾讯」模型微调与适配AMIT SHEKHAR · ai-engineering-interview-questions · 1 条原题查看题集 →What is knowledge distillation for fine-tuning, and what are the legal considerations?展开剩余 5 份题集大模型基础AMIT SHEKHAR · ai-engineering-interview-questions · 1 条原题查看题集 →What is model distillation, and how is it used with LLMs?模型压缩知识点Rocky Ding · AIGC-Interview-Book · 1 条原题查看题集 →什么是模型蒸馏？模型部署精华 · 推理部署综述Rocky Ding · AIGC-Interview-Book · 3 条原题查看题集 →知识蒸馏为什么比只学习真实标签更有效？知识蒸馏有哪些常见方式？知识蒸馏适合哪些场景？有哪些局限？数学基础高频考点Rocky Ding · AIGC-Interview-Book · 1 条原题查看题集 →知识蒸馏、温度系数和 KL 损失如何理解？数学公式推导高频考点Rocky Ding · AIGC-Interview-Book · 1 条原题查看题集 →知识蒸馏中的温度系数为什么常配 $T^2$？相关题目4 题0084蒸馏受限时，如何选择后训练方法提升模型能力？同一知识专题题目类型：方案设计技术难度：进阶相关面经：1 篇0347项目中的模型蒸馏具体如何实现？同一知识专题题目类型：项目深挖技术难度：进阶相关面经：1 篇1827实习中的轨迹蒸馏具体如何实现？同一知识专题题目类型：项目深挖技术难度：深入相关面经：1 篇2970蒸馏时如何避免学生学到教师错误的推理链？同一知识专题题目类型：方案设计技术难度：进阶相关面经：1 篇♥♥♥♥♥← 上一题已到最后一题← 上一题蒸馏时如何避免学生学到教师错误的推理链？下一题 →模型蒸馏数据如何构造和清洗？
