优化方法题集来源：Rocky Ding（WeThinkIn）收录项目：AIGC-Interview-Book查看原题集 反馈（在 GitHub 新标签页打开）题目目录34 道原题隐藏关联题目排序默认排序面经最多21什么是xavier初始化？原题 关联题目为什么神经网络需要适当初始化，常见方法如何选择？模型训练与对齐 / 训练框架、调参与排障原理机制进阶1篇相关面经22深度学习训练过程中，如果设置的学习率过大，会导致什么问题？原题 关联题目梯度下降如何更新参数，步长与收敛条件有何关系？模型训练与对齐 / 训练框架、调参与排障原理机制进阶1篇相关面经23介绍一下深度学习中的学习率衰减？原题 关联题目预训练如何选择 warmup、余弦退火及动态学习率调度？模型训练与对齐 / 训练框架、调参与排障比较选型进阶1篇相关面经24深度学习训练过程中，如果设置的学习率过小，会导致什么问题？原题 关联题目梯度下降如何更新参数，步长与收敛条件有何关系？模型训练与对齐 / 训练框架、调参与排障原理机制进阶1篇相关面经25深度学习中模型权重融合有哪些主流的方法？原题 关联题目模型权重融合如何组合能力，分层插值有哪些兼容与验证条件？模型训练与对齐 / 蒸馏与模型合并方案设计进阶0篇相关面经26什么是adafactor优化器？原题 关联题目Adafactor 如何减少优化器状态显存，有哪些更新机制与取舍？模型训练与对齐 / 训练框架、调参与排障原理机制深入0篇相关面经27什么是深度学习中的梯度裁剪技术？原题 关联题目如何处理梯度消失与梯度爆炸？已有答案模型训练与对齐 / 训练框架、调参与排障故障排查进阶2篇相关面经28如何选择梯度裁剪的阈值原题 关联题目如何处理梯度消失与梯度爆炸？已有答案模型训练与对齐 / 训练框架、调参与排障故障排查进阶2篇相关面经29CNN+Transformer组合的架构有哪些优势？原题 关联题目ViT 与 CNN 在图像特征提取上有什么优劣，各适合什么条件？模型基础与推理 / 多模态与生成模型比较选型进阶1篇相关面经30介绍一下schedule_free优化器的原理原题 关联题目Schedule-Free 优化如何通过插值与迭代平均替代学习率衰减计划？模型训练与对齐 / 训练框架、调参与排障原理机制深入0篇相关面经暂无题目共 34 道原题 · 显示 21–30 道展开全部34题上一页12343 / 4下一页