岗位职责
- 深度学习引擎优化,参与训练和推理引擎的深度优化,包括编译优化、图融合技术、并行计算策略、低精度计算等;
- 高性能算子与框架研发,负责自研高性能算子库建设,进行异构硬件适配,利用SIMD、CUDA等技术实现算子的并行加速;
- 长序列的大规模分布式训练(DDP/FSDP/TP/SP/PP)和推理支持(RPC框架/vLLM/SGLang/TRT);
- 前沿技术调研与落地,探索下一代硬件架构、异构计算方案,将前沿技术转化为生产力。
职位要求
- 至少精通一门编程语言(如C、C++、Python),具备优秀的编码习惯并注重代码质量;
- 扎实的计算机科学基础,深入理解数据结构与算法、操作系统、计算机体系结构、高性能编程等核心知识;
- 了解PyTorch等深度学习框架,有FSDP,DeepSpeed等分布式训练经验;
- 熟悉vLLM、SGLasng等推理框架;
- 具备高性能编程经验,熟悉Triton、CUDA、AscendC、BangC、DCU等编程。