模型基础与推理

本分类共 8 个专题 · 1155 道题

已筛选

共 1155 道题

排序:

4507
VLM 如何处理高分辨率图像,有哪些计算与架构设计挑战?
模型基础与推理多模态与生成模型
方案设计
深入
4595
Transformer 中逐位置前馈网络 FFN 有什么作用?
模型基础与推理Transformer 与注意力
原理机制已有答案
基础
4608
Temperature 如何影响 Token 概率分布与生成结果?
模型基础与推理推理与解码
原理机制
基础
4695
Transformer 的 Attention 与 MLP 参数量如何分布,哪些条件决定占比?
模型基础与推理模型架构与表示
原理机制
进阶
4697
线性注意力的基本原理是什么,它有哪些适用边界?
模型基础与推理Transformer 与注意力
原理机制
深入
4699
BatchNorm、LayerNorm、RMSNorm 与 GroupNorm 的统计维度和适用条件有什么区别?
模型基础与推理机器学习与推荐系统
比较选型
进阶
4716
什么是 Prefill 与 Decode 分离,为什么要分离部署?
模型基础与推理推理优化与模型压缩
原理机制
进阶
4801
Encoder-only、Decoder-only 与 Encoder-Decoder 架构有什么区别?
模型基础与推理Transformer 与注意力
比较选型
进阶
4915
什么是重要性采样,它如何修正不同分布下的期望估计?
模型基础与推理机器学习与推荐系统
原理机制
进阶
4928
语言模型是什么,如何为 Token 序列定义概率?
模型基础与推理模型架构与表示
概念解释
基础