岗位职责
- 主要负责异构计算芯片在机器学习平台的落地，会涉及异构计算芯片的评估、调研，及相关模型的推理、训练的适配、优化等工作；
- [评估]：负责评估符合业务要求的异构计算芯片，建立/完善评估体系、负载模型，预估业务收益；
- [推理]：负责异构计算芯片落地实际推理业务，适配异构计算芯片特性，降低推理时延，提高推理吞吐；
- [训练]：负责异构计算芯片落地实际训练业务，根据芯片计算、通信特性，优化显存占用，提高训练吞吐；
- [算子]：负责开发异构计算芯片的高性能算子，根据芯片特性，优化算力、带宽利用率；
- [编译]：负责通过编译技术实现异构计算芯片在不同业务场景中落地，负责实现更加高效的异构硬件编程范式。
职位要求
- 熟练掌握Linux环境下的C/C++、Python语言；能够熟练使用PyTorch，熟悉底层原理及相关实现；
- 有国产芯片开发经验，寒武纪、昇腾，了解其推理/训练/通信相关优化，具备扎实的计算机科学功底和编程能力，熟悉常见算法和数据结构，具有良好的编程风格；
- 熟悉至少一种经典深度学习模型及其应用场景，如LLM、DiT、Bevformer等；熟悉至少一种并行计算架构，熟悉其编程模型，并知晓其优劣所在；
- 有良好的工作文档习惯，及时按要求撰写更新工作流程及技术文档。 加分项
- 有高性能算子、大规模训练、通算融合领域经验者优先；
- 了解SIMD/SIMT外其他并行计算模型及算法，了解其并行编程模型及其优、缺点者优先；
- 了解GPU硬件架构，了解GPU软件栈（CUDA，cuBLAS、cuTLASS)，具备GPU性能分析的能力者优先；
- 了解AI Compiler技术栈（MLIR等），熟悉Torch
- 0+编译栈、Triton优先者优先。
