模型基础与推理

本分类共 8 个专题 · 1155 道题

已筛选

共 1155 道题

排序:

4799
Stop Token 与 Stop Sequence 有什么区别?
模型基础与推理推理与解码
比较选型
基础
4817
扩散式语言模型如何生成文本?
模型基础与推理多模态与生成模型
原理机制
进阶
4858
Attention 与全连接层的计算方式有什么区别?
模型基础与推理Transformer 与注意力
比较选型
进阶
4862
BERT 的非线性来自哪些计算环节?
模型基础与推理模型架构与表示
原理机制
进阶
4933
BERT 常见的 512 Token 输入限制由哪些配置和训练条件决定?
模型基础与推理Tokenizer 与位置编码
原理机制
进阶
4936
BERT 的 MLM 与 Word2Vec 的 CBOW 在预测目标和上下文使用上有何异同?
模型基础与推理模型架构与表示
比较选型
进阶
4985
TensorRT-LLM 如何优化大语言模型推理?
模型基础与推理推理优化与模型压缩
原理机制
进阶
4986
llama.cpp 如何在常见 CPU 或消费级硬件上运行大语言模型?
模型基础与推理推理优化与模型压缩
原理机制
进阶
5000
AI 中的 Interpretability 与 Explainability 有什么区别?
模型基础与推理模型选型与能力边界
比较选型
进阶
5041
N-gram 投机解码如何利用已有文本提出候选并加速生成?
模型基础与推理推理优化与模型压缩
原理机制
进阶