返回全部题目← 上一题48 / 71下一题 →题库/模型基础与推理/Q-5211QK-Norm 如何控制注意力分数尺度，与 FlashAttention 的优化目标有何不同？知识专题：Transformer 与注意力题目类型：原理机制技术难度：进阶题集来源：2 个未标记未标记待复习已掌握收藏反馈（在 GitHub 新标签页打开）Sorry o(╥﹏╥)o，暂无参考答案。带这道题，问问AI吧~问 AIKimiKimi（新窗口打开）Qwen千问（新窗口打开）OpenAIChatGPT（新窗口打开）本题目录收录题集相关题目收录题集2 个来源，共2 份题集深度学习基础汇编阿东玩 AI · AgentGuide · 1 条原题查看题集 →【上下文不足】问我是否熟悉：RMS norm，layer Norm，激活函数（llava的），q-former，qk norm，rope，swigle 「百度」模型架构与工作原理Rocky Ding · AIGC-Interview-Book · 1 条原题查看题集 →QK-Norm 解决什么问题？它与快速注意力（FlashAttention）是同一类优化吗？相关题目4 题0036Transformer 中的 Attention 如何计算？同一知识专题题目类型：原理机制技术难度：进阶相关面经：20 篇0268Self-Attention 为何利于并行训练，与 RNN 相比有哪些局限？同一知识专题题目类型：比较选型技术难度：进阶相关面经：2 篇0572Self-Attention 为什么需要 Scaling？同一知识专题题目类型：原理机制技术难度：进阶相关面经：3 篇0575手写 Multi-Head Attention。同一知识专题题目类型：代码题技术难度：进阶相关面经：6 篇♥♥♥♥♥← 上一题已到最后一题← 上一题Ring Attention 如何通过跨设备分块计算扩展长序列注意力？下一题 →为什么混合使用递归状态与全局注意力，两者如何互补？
