模型基础与推理

本分类共 8 个专题 · 1155 道题

已筛选

共 1155 道题

排序:

4717
大模型解码速度为什么经常受显存带宽限制?
模型基础与推理推理优化与模型压缩
原理机制
进阶
4719
WordPiece 如何利用语言模型概率或关联评分选择词表合并?
模型基础与推理Tokenizer 与位置编码
原理机制
进阶
4730
什么是大模型的长度外推?
模型基础与推理Tokenizer 与位置编码
概念解释
基础
4739
用 Python 实现 Top-K 和 Top-P 采样。
模型基础与推理推理与解码
代码题
进阶
4751
用 Python 和 PyTorch 实现自回归生成的 KV Cache。
模型基础与推理推理优化与模型压缩
代码题
深入
4759
手写 Transformer 的正弦余弦绝对位置编码。
模型基础与推理Tokenizer 与位置编码
代码题
进阶
4761
用 PyTorch 从零实现 LayerNorm。
模型基础与推理模型架构与表示
代码题
进阶
4804
DeepSeek-V4 的模型架构与工作机制是什么?
模型基础与推理模型架构与表示
原理机制
深入
4807
RMSNorm 如何进行归一化?
模型基础与推理模型架构与表示
原理机制
进阶
4810
领域术语被过度切分时,如何评估并适配 Tokenizer?
模型基础与推理Tokenizer 与位置编码
故障排查
进阶