真面经，好答案。面试之前，先来面栈。

模型基础与推理

本分类共 8 个专题 · 1155 道题

已筛选

共 1155 道题

排序：

2776
如何降低 KV Cache 空间开销，MQA 等结构起什么作用？
模型基础与推理推理优化与模型压缩
方案设计
进阶
2 篇面经3 个题集来源
3302
Focal Loss 的原理是什么？
模型基础与推理机器学习与推荐系统
原理机制
进阶
2 篇面经3 个题集来源
3534
SGLang 与 vLLM 的机制有何不同，如何比较推理延迟？
模型基础与推理推理优化与模型压缩
比较选型
进阶
2 篇面经3 个题集来源
3649
如何降低多头注意力的计算开销？
模型基础与推理推理优化与模型压缩
方案设计
进阶
2 篇面经3 个题集来源
3699
为什么主流大语言模型多采用 Decoder-only 架构？
模型基础与推理模型架构与表示
原理机制
进阶
暂无面经5 个题集来源
3711
大模型推理解码中的 Prefill 和 Decode 阶段分别做什么？
模型基础与推理推理与解码
原理机制
进阶
暂无面经5 个题集来源
4168
模型量化如何实施，为什么选择 GPTQ、QAT 或 W8A16？
模型基础与推理推理优化与模型压缩
比较选型
深入
1 篇面经4 个题集来源
4241
Transformer 从接收用户输入到生成输出会经历哪些主要步骤？
模型基础与推理Transformer 与注意力
原理机制面前必看
基础
2 篇面经3 个题集来源
4504
视频视觉语言模型相比静态图像模型，需要解决哪些额外问题？
模型基础与推理多模态与生成模型
原理机制
进阶
1 篇面经4 个题集来源
4506
不同 VLM 架构如何进行跨模态融合，各有什么优缺点？
模型基础与推理多模态与生成模型
比较选型
进阶
暂无面经5 个题集来源