岗位职责
课题背景 高效异构推理是大模型推理基础设施的重要研究方向，高性能算子则是充分释放硬件能力、提升推理吞吐与降低服务成本的关键。随着模型规模持续扩大，以及MoE、长上下文、低精度量化等技术的广泛应用，推理系统对核心算子的性能、覆盖能力与硬件适配效率提出了更高要求。本课题面向AMD Instinct MI系列与NVIDIA数据中心GPU，以AMD CDNA3/CDNA4、NVIDIA Hopper/Blackwell架构为重点，并根据硬件可用性拓展至CDNA5/Rubin等新架构。 目前，业界围绕GEMM、MoE与Attention三类核心算子已经开展了大量研究，并形成了丰富的开源实现，但现有成果仍难以充分覆盖真实业务中的模型结构、计算形状与部署环境。AMD平台在部分新模型、新精度及复杂推理场景下，高性能算子的覆盖与工程适配仍有提升空间；NVIDIA平台虽然软件生态较为成熟，但不同代际、不同型号GPU的硬件能力存在差异，已有优化也难以同时覆盖小批量decode、长上下文、动态MoE路由等多样化场景。 两家厂商的硬件差异进一步增加了优化难度。AMD CDNA架构与NVIDIA GPU在矩阵指令、线程组织、片上存储、异步执行及缓存结构等方面采用不同设计，同一厂商内部也存在明显的跨代变化。例如，CDNA4扩展了原生微缩放低精度格式支持，Hopper引入TMA等异步数据搬运能力，Blackwell进一步引入Tensor Memory等机制。因此，高性能算子需要围绕具体架构重新设计数据布局、软件流水与执行调度，并提炼能够跨平台复用的优化方法。 本课题围绕AMD与NVIDIA GPU上的GEMM、MoE、Attention三类核心算子及相关通信融合算子，针对不同模型结构、硬件架构与推理阶段，开展架构感知的深度性能优化研究。通过“硬件特性剖析—核心算子优化—通算协同设计—真实业务验证—方法论沉淀”，形成可复用的高性能算子与工具体系，支撑腾讯云大规模MaaS推理服务的降本增效，并推动异构GPU算子生态建设。
职位要求
- 计算机、信息工程、人工智能、自动化、软件工程、电子工程、微电子等相关专业的博士研究生或优秀硕士研究生。
- 具备以下至少一项技能或知识：GPU编程（CUDA/HIP）；高性能算子开发与调优（Triton、CUTLASS、CK、FlyDSL等）；GPU体系结构与性能建模；编译器技术（LLVM/MLIR/Triton）；集合通信与分布式并行。
- 对Attention（MHA/MQA/GQA/MLA）、MoE、低精度GEMM等大模型核心算子有深入理解，或在vLLM/SGLang等推理框架、AMD ROCm或NVIDIA CUDA平台上有实际开发与优化经验者优先。
- 具备较强的编程、实验设计与问题分析能力，能够通过性能分析工具和微基准定位瓶颈，并以可复现的实验验证优化效果。
- 对GPU底层技术与大模型推理系统有好奇心和自驱力，具备良好的学习、沟通与协作能力，能够与团队共同探索新技术并推进工程落地。
