返回全部题目← 上一题41 / 126下一题 →题库/模型训练与对齐/Q-4875如何测量 GPU 训练利用效率与实际 FLOP/s？知识专题：分布式训练与计算硬件题目类型：效果评估技术难度：进阶题集来源：4 个未标记未标记待复习已掌握收藏反馈（在 GitHub 新标签页打开）Sorry o(╥﹏╥)o，暂无参考答案。带这道题，问问AI吧~问 AIKimiKimi（新窗口打开）Qwen千问（新窗口打开）OpenAIChatGPT（新窗口打开）本题目录收录题集相关题目收录题集4 个来源，共6 份题集腾讯问答汇编Rocky Ding · AIGC-Interview-Book · 1 条原题查看题集 →算模型sft的参数量大小及显卡利用率分布式训练与资源Firefly · llm_interview_note · 2 条原题查看题集 →如何评估你的显卡利用率?如何查看训练时的 flops？（也就是每秒的计算量）AI Infra：训练、推理与 GPU 平台工程Onefly · zero2Agent · 2 条原题查看题集 →如何从模型结构估算参数量、FLOPs、训练显存、推理访存与 MFU？大模型训练吞吐低时，如何用 MFU、Profiler、通信和流水线空泡定位瓶颈？AI Infra 面试指南阿东玩 AI · AgentGuide · 1 条原题查看题集 →一次训练吞吐突然下降 30%，你按什么顺序排查？LLM推理系统问答阿东玩 AI · AgentGuide · 1 条原题查看题集 →原文作者Lamhot Siagian / AI Engineering Insider How would you measure and improve Model FLOP Utilization (MFU)?展开剩余 1 份题集AI系统与训练推理工程阿东玩 AI · AgentGuide · 2 条原题查看题集 →SFT参数量与显卡利用率计算 算模型sft的参数量大小及显卡利用率显卡利用率【pipeline active分析】为什么要去看fp32 pipeline active和bf16 pipeline active? 「阿里巴巴」相关题目4 题0030DCU 与 GPU 有什么区别？同一知识专题题目类型：比较选型技术难度：进阶相关面经：4 篇0031SIMT 有什么特点，遇到分支会发生什么？同一知识专题题目类型：原理机制技术难度：进阶相关面经：3 篇0032GPU 的存储层次和计算单元如何组织？同一知识专题题目类型：原理机制技术难度：进阶相关面经：6 篇0033DCU 如何把数据传入寄存器，并在芯片上共享？同一知识专题题目类型：原理机制技术难度：进阶相关面经：1 篇♥♥♥♥♥← 上一题已到最后一题← 上一题如何根据参数量与存储精度估算大模型权重文件大小？下一题 →如何查看并理解服务器中多 GPU 的 NVLink 互联拓扑？
