岗位职责
- 针对主流深度学习框架、分布式训练和模型部署场景等，进行性能调优，优化算子性能、通信性能、内存利用率等关键指标，提升集群整体运行效率；
- 参与分布式训练框架建设和优化，包括模型并行、长上下文、MoE、低精度、数据读取加速等；
- 参与推理引擎请求调度，多级KV Cache管理，投机采样算法优化与 Draft 模型训练适配，性能仿真等策略算法和工具的实现，优化cache命中率和资源利用率和推理性能；
- 参与推理引擎Attention–FFN 分离，异构和跨数据中心PD分离等新型架构的设计与实现，优化 A/F 资源配比、专家资源共享、微批流水及分布式调度，优化跨节点传输与计算通信重叠 ；
- 参与基于tilelang/triton的编译优化和调优、cutlass高性能算子实现和国产算力社区建设，推动模型day0适配；
- 参与AI DSL编译优化方向，探索通算融合、megakernel、kernel design agent等前沿技术，推动其在训推场景的规模化落地。
职位要求
- 5年以上相关经验，熟悉深度学习框架(pytorch)，分布式训练和推理技术框架(如deepseed、fsdp、megatron、vllm、sglang），AI系统性能分析（如Nsight、PyTorch Profiler等）；
- 理解 Attention、KV Cache、MoE、PD、模型并行与请求调度，能够分析不同负载下的性能瓶颈；
- 熟悉Tilelang、Triton、Cutlass等编译/算子优化，有AI DSL、手写汇编等相关经验者优先；
- 对国产算力生态相关社区有贡献或实践、具备国产化芯片性能调优经验者优先；
- 有强烈技术热情和好奇心，自驱力和学习力强；具备良好的分析与解决问题的能力、沟通以及团队合作能力；喜欢挑战性的技术研发工作，善于攻坚克难，有创新热情，积极乐观，坚韧抗压，结果导向，能够持续推动问题的解决和突破。
