返回全部题目← 上一题20 / 71下一题 →题库/模型基础与推理/Q-3704交叉注意力与自注意力有什么区别?知识专题:Transformer 与注意力题目类型:比较选型技术难度:基础题集来源:4 个未标记未标记待复习已掌握收藏反馈(在 GitHub 新标签页打开)Sorry o(╥﹏╥)o,暂无参考答案。带这道题,问问AI吧~问 AIKimiKimi(新窗口打开)Qwen千问(新窗口打开)OpenAIChatGPT(新窗口打开)本题目录收录题集相关题目收录题集4 个来源,共5 份题集深度学习基础汇编阿东玩 AI · AgentGuide · 5 条原题查看题集 →【Attention vs Self-Attention】Attention和self attention的区别?Self-Attention和Cross-Attention在作用上有什么区别?请对比其他注意力机制,并说明Qwen使用的是哪一种注意力? 「百度、阿里巴巴」注意力机制与多头注意力 介绍Transformer中的注意力机制,包括:自注意力(self-attention)和交叉注意力(cross-attention)的区别与作用。【自注意力与交叉注意力】自注意力交叉注意力? 「百度」展开其余 2 条原题【自注意力与交叉注意力顺序】项目中的backbone为什么先用自注意力再用交叉注意力? 「百度」【Cross-Attention】crossattention用法。cross attn的qkv分别是啥?代码:MCG模型,类似于crossattention。手撕是Cross Attention。 「百度、腾讯混元、阿里巴巴」八股集锦(高频问题)小熊饼干_ · 个人整理 · 1 条原题查看题集 →交叉注意力你如何理解,与自注意力有什么区别。模型架构与注意力Firefly · llm_interview_note · 1 条原题查看题集 →self-attention 和 target-attention的区别?图像创作 · Stable Diffusion&FLUX系列大模型基础Rocky Ding · AIGC-Interview-Book · 1 条原题查看题集 →介绍一下Stable Diffusion中自注意力机制和交叉注意力机制的原理01_AI视频核心基础知识Rocky Ding · AIGC-Interview-Book · 1 条原题查看题集 →请介绍下什么是交叉注意力(Cross Attention),与自注意力机制有什么区别?相关题目4 题0036Transformer 中的 Attention 如何计算?同一知识专题题目类型:原理机制技术难度:进阶相关面经:20 篇0268Self-Attention 为何利于并行训练,与 RNN 相比有哪些局限?同一知识专题题目类型:比较选型技术难度:进阶相关面经:2 篇0572Self-Attention 为什么需要 Scaling?同一知识专题题目类型:原理机制技术难度:进阶相关面经:3 篇0575手写 Multi-Head Attention。同一知识专题题目类型:代码题技术难度:进阶相关面经:6 篇♥♥♥♥♥← 上一题已到最后一题← 上一题多头注意力为什么要降低每个 Head 的维度?下一题 →为什么 Attention 能建模长距离依赖?