八股集锦（高频问题）
大模型主要基于什么架构？有哪些部分组成
为什么大模型大多是decoder-only的架构？
大模型是如何训练/获取知识的？
什么是Transformer
Transformer的优缺点是什么？
什么是Transformer的编码器和解码器？分别有什么用
Decoder-only模型在训练阶段和推理阶段的输入格式有什么不同？
Transformer的Decoder阶段的多头自注意力和Encoder的多头自注意力有什么区别？
为什么要Decoder自注意力要进行Mask？
Transformer掩码注意力机制具体是怎么做的？
暂无题目