岗位职责
- GPU机型性能评估： 主导不同GPU芯片（含国产芯片及英伟达等国外AI芯片）的性能对比与适配评估，深入理解芯片架构并搭建配套的基准评估工具链；
- 训推框架开发与优化：基于云平台和业界常见训推框架，开发加速方案，满足公有云客户对性能的极致需求；
- 支持主流GPU和异构AI芯片，优化大模型推理性能，打造极致性能成本优势；
- 应用优化：参与重点项目POC和现网问题保障，分析性能瓶颈，快速定位和解决重点问题；
- 前沿技术探索：跟踪学术动态，将最新研究成果转化为框架功能，提升产品竞争力。
职位要求
- 熟悉主流的大模型推理框架及其加速技术，如vLLM、SGlang、TensorRT-LLM等，熟练分析单机及分布式情况下的性能热点和优化手段；
- 熟悉业界主流开源模型结构，例如DeepSeek、Qwen、Wan、Flux等；
- 熟悉主流的训练框架和分布式框架，包括Megatron-LM、DeepSpeed、verL、LLama-factory等，熟悉常见的分布式并行策略，了解显存、通信与计算相关性能瓶颈和优化手段；
- 熟悉自动驾驶相关算法者优先，例如BEVformer、MapTRV
- SparseDrive、FlashOCC、Pointpillars等，熟练分析自驾场景的性能瓶颈和优化方案；
- 熟悉CUDA编程、高性能计算优化（如算子融合、通信优化）者优先；
- 熟悉NCCL、MPI等集合通信算法者优先；
- 工程经验上具备大型项目架构设计能力，能独立解决性能调优、多节点调试等复杂问题；
- 具备良好的沟通能力与团队协作精神，有强烈的技术热情者优先；
- 上述训练、推理至少要求熟悉一个场景；两者都熟悉者优化。
