岗位职责
- 负责大模型训练/推理场景下的性能分析与优化，重点优化 NVIDIA GPU 及 国产芯片 的计算、显存、通信和调度瓶颈；
- 负责 CUDA / Triton / C++ 高性能算子开发与优化，包括 GEMM、Attention、MoE、KV Cache、通信融合等方向；
- 负责多卡、多机训练/推理性能调优，优化 NCCL、NVLink、NVSwitch、InfiniBand/RDMA 等通信链路；
- 负责基于 NVIDIA GPU 和 国产芯加速卡 的性能调优，提升 GPU 利用率、吞吐、延迟和显存效率；
- 负责 PyTorch、TensorRT-LLM、vLLM、SGLang、Megatron-LM 等框架下的大模型性能优化落地；
- 结合 Nsight Systems、Nsight Compute、CUDA Profiler 等工具进行性能分析，定位并解决性能瓶颈。
职位要求
- 熟悉 C/C++、CUDA 或 Triton 编程，有 GPU 算子开发或性能优化经验；
- 熟悉 NVIDIA GPU 架构，理解 SM、Warp、Tensor Core、Shared Memory、Memory Coalescing、Occupancy 等概念；
- 熟悉大模型训练或推理流程，了解 Attention、GEMM、MoE、KV Cache、并行策略等核心模块；
- 熟悉分布式训练/推理优化，理解 TP、PP、DP、EP、NCCL、RDMA 等技术；
- 有实际 profiling 和性能调优经验，能够通过工具定位瓶颈并给出优化方案；
- 有 NVIDIA GPU 或 国产加速卡 实际优化经验者优先；
- 不要求候选人覆盖 AI 全栈所有方向，只要在大模型训练/推理、GPU 算子优化、分布式通信、性能调优、推理框架等任一方向有较深入理解和实践经验，均欢迎投递。
