模型基础与推理

本分类共 8 个专题 · 1155 道题

已筛选

共 1155 道题

排序:

3904
中文 Agent 场景下,如何综合成本与准确率选择模型?
模型基础与推理模型选型与能力边界
比较选型
进阶
4016
给定 Query 和商品特征,如何搭建提升 NDCG@10 的搜索排序训练与评测链路?
模型基础与推理机器学习与推荐系统
方案设计
深入
4164
KV Cache 如何离线预计算,并对低频缓存进行卸载和加载?
模型基础与推理推理优化与模型压缩
系统设计
深入
4598
LLM 批量推理与单请求推理有什么区别,为什么能提升吞吐?
模型基础与推理推理优化与模型压缩
比较选型
基础
4615
大模型推理为什么使用混合精度,它有哪些收益与限制?
模型基础与推理推理优化与模型压缩
原理机制
进阶
4698
Group Normalization 与 Instance Normalization 有什么区别?
模型基础与推理机器学习与推荐系统
比较选型
进阶
4714
Qwen2 相较前代有哪些主要改进?
模型基础与推理模型架构与表示
原理机制
进阶
4715
LLaMA 3.1 有哪些主要技术与能力创新?
模型基础与推理模型架构与表示
原理机制
进阶
4718
Tokenizer 如何从语料中训练出词表和分词规则?
模型基础与推理Tokenizer 与位置编码
操作实践
进阶
4720
BPE 与字节级 BPE(BBPE)如何工作,有什么区别?
模型基础与推理Tokenizer 与位置编码
比较选型
进阶