返回全部题目← 上一题7 / 31下一题 →题库/模型基础与推理/Q-3712大模型推理为什么需要 Prefill 阶段?知识专题:推理与解码题目类型:原理机制技术难度:基础题集来源:2 个未标记未标记待复习已掌握收藏反馈(在 GitHub 新标签页打开)Sorry o(╥﹏╥)o,暂无参考答案。带这道题,问问AI吧~问 AIKimiKimi(新窗口打开)Qwen千问(新窗口打开)OpenAIChatGPT(新窗口打开)本题目录收录题集相关题目收录题集2 个来源,共3 份题集八股集锦(高频问题)小熊饼干_ · 个人整理 · 1 条原题查看题集 →(追问)为什么要做Prefill预训练与架构阿东玩 AI · AgentGuide · 1 条原题查看题集 →【Prefill阶段】什么是prefill? 「阿里巴巴」AI系统与训练推理工程阿东玩 AI · AgentGuide · 1 条原题查看题集 →在LLM推理里,prefill是什么意思? 「阿里巴巴」相关题目4 题2279为什么 Temperature 为 0 时模型输出仍可能有差异?同一知识专题题目类型:原理机制技术难度:进阶相关面经:1 篇2757Temperature、Top-k 和 Top-p 怎样影响模型采样?同一知识专题题目类型:原理机制技术难度:进阶相关面经:8 篇2917投机解码的原理是什么?同一知识专题题目类型:原理机制技术难度:进阶相关面经:2 篇3686大模型常见解码策略有哪些,贪心、Beam Search 与采样如何选择?同一知识专题题目类型:比较选型技术难度:进阶相关面经:1 篇♥♥♥♥♥← 上一题已到最后一题← 上一题大模型推理解码中的 Prefill 和 Decode 阶段分别做什么?下一题 →模型推理的 reasoning effort 高低控制什么,是否会改变最大输出 Token?