岗位职责
- 训推框架开发与优化：基于云平台和业界常见训推框架，开发加速方案，满足公有云客户对性能的极致需求；
- 应用优化：参与重点项目POC，分析性能瓶颈，快速定位和解决重点问题；
- 前沿技术探索：跟踪学术动态，将最新研究成果转化为框架功能，提升产品竞争力；
- 自研核心业务支持：参与腾讯内部核心业务相关训推框架的交付与迭代。
职位要求
- 熟悉主流的大模型推理框架及其加速技术，如vLLM、SGlang、TensorRT-LLM等，熟练分析单机及分布式情况下的性能热点和优化手段；
- 熟悉主流的训练框架和分布式框架，包括Megatron-LM、DeepSpeed、verL、LLama-factory等，熟悉常见的分布式并行策略，了解显存、通信与计算相关性能瓶颈和优化手段；
- 熟悉自动驾驶相关算法者优先，例如BEVformer、MapTRV
- SparseDrive、FlashOCC、Pointpillars等，熟练分析自驾场景的性能瓶颈和优化方案；
- 熟悉CUDA编程、高性能计算优化（如算子融合、通信优化）者优先；
- 熟悉NCCL、MPI等集合通信算法者优先；
- 工程经验上具备大型项目架构设计能力，能独立解决性能调优、多节点调试等复杂问题；
- 具备良好的沟通能力与团队协作精神，有强烈的技术热情者优先。
