AI 应用软件开发（偏编译器）一面、二面面经

一面

技术面，只有一个技术面试官

1、自我介绍

2、简历中提到对cuda算子进行深度定制与调优，说说对算子做了哪些修改？

3、简历中提到刨析性能，说说主要用的工具是什么以及如何使用的，重点关注了哪些指标？

4、简历中提到做过三维重建，说说技术的实现过程，以及其中的难点

5、有了解过MLIR吗？有了解pytorch的编译过程吗？在研究项目中训练模型时，有在底层做过加速训练的工作吗？

6、了解CUDA架构吗？

7、在高性能模型推理框架开发中，有遇到什么难点吗？

8、你还有什么想问的？面试过程中没有问八股，全都是关心与AI infra相关的内容，其中5~7问题我都回答得不好，很明显感觉自己还差很多，所以问了没面试官他觉得我要从事这个职业，还欠缺哪些能力？还需要学习哪些？

GG（大写的）

二面

一个技术，15分钟光速结束

这个面试官不是一问一答式的，他要我简历项目中难点与亮点，尤其是与模型推理相关的

1、说说你项目中能体现你能力的亮点

2、项目中难点是什么？如何解决的？

3、Flash Attention的原理和实现过程

4、模型推理框架中编写和优化了很多算子，以一个算子为例，说说实现和优化的过程

5、GPU的架构知道多少？为什么一个block中我们通常开启128或256个线程？

6、c++中有构造函数、析构函数、成员函数、模板函数，哪些函数可以写成虚函数？哪些不能？为什么？

7、warp中band冲突了解吗？

8、你还有什么想问的？

GG