预训练与架构

题集来源:阿东玩 AI(Adong)收录项目:AgentGuide查看原题集 反馈(在 GitHub 新标签页打开)

题目目录

254 道原题
  1. 【低秩微调】为什么低秩矩阵分解可以近似全量微调的效果? 「字节跳动」

    原题
  2. 【前沿趋势】说一下你了解的前沿的吗?介绍一下。 「百度」

    原题
  3. 【后训练策略】请谈谈你对开源大模型与自研大模型在后训练策略上可能存在的差异的理解。 「蚂蚁集团」

    原题
  4. 【基模评估】业务基模和通用基模有什么区别?业务基模效果应该如何评估? 「字节跳动」

    原题
  5. 【增量预训练】(追问)增量预训练如何影响最终模型的训练速度和精度? 「腾讯」

    原题
  6. 【多语言适配】如何适配阿里国际多语言大模型场景? 「阿里巴巴」

    原题
  7. 【大模型底层原理】手撕算法,还疯狂深挖大模型底层原理,像Transformer和微调这些细节问得特别细。 「美团」

    原题

    来源未给出所指算法的题干。

  8. 【思维链与推理能力训练】现在大模型的 CoT 和深度思考能力是如何通过训练得来的? 「阿里巴巴」

    原题
  9. 【投机解码】请分析投机解码算法,包括其定义、lookahead、n-gram、medusa、eagle等变体,指出其不足之处、可能的改进方向,以及该范式是否存在固有缺陷。 「字节Seed、百度」

    原题
  10. 【模型对比】(追问)Deepseek、Llama与当前方案相比,在训练效率和模型表现上有何差异? 「腾讯」

    原题

    来源未说明与 DeepSeek、Llama 比较的当前方案。