部门介绍
我们是平头哥AI 芯片软件互联团队,主要职责是积极拥抱社区生态、并基于平头哥AI 芯片产品来打造我们自己的互联通信库。 越来越好的大模型对算力需求日益高涨,而大模型训练与推理的高效部署都依赖越来越多的芯片通过互联在一起,高效协同以发挥出线性增长的计算效率。我们会与架构/硬件/Model 同学紧密合作以共同打造越来越符合业界需求的芯片,同时也会协同服务器/网络等伙伴共同打造基于平头哥芯片的高性能集群 solution,还会深入到各种应用场景去洞察并满足用户对多卡训练、推理在性能、鲁棒性、故障定位等各方面的需求,协同各方共同打造最高效、易用的平头哥多卡产品软件解决方案。
岗位职责
- 为芯片设计开发高性能、有竞争力的互联通信库;
- 基于芯片、服务器、网络集群架构特性与互联通信应用模式进行极致性能优化;
- 增强在大规模机器任务下发生 hang 或 crash 时的专家分析与诊断、定位能力;
- 支持多卡或多机互联场景下各种用户问题分析与定位;
- 和其他团队紧密合作,影响芯片、服务器与集群架构等方案设计和演进。
职位要求
- 计算机/电子/通信/数学相关专业硕士及以上学历,以及 3 年以上 AI 或半导体软件开发相关从业经验;
- 熟练掌握 C/C++,具备优秀的程序开发、设计和调试能力;
- 熟练掌握各种基本算法,对操作系统、计算机体系结构有不错理解;
- 满足以下任一条件者从优: - 做过 NCCL、NVSHMEM 、DeepEP 或 MPI 等集合通信库适配或优化等工作; - 做过 Megatron、DeepSpeed、vLLM 或 sglang 等框架下多卡或多机功能问题分析或性能调优等工作; - 有可编程异构芯片(如GPU/NPU/AI 芯片)架构设计或软件适配、优化等相关从业经历; - 熟悉 AllReduce、AllGather 及 AlltoAll 等典型集合运算操作的算法; - 熟悉网络通信中与 topo 设计、路由规划等相关的做法; - 熟悉 CUDA/OpenCL/OpenMP/OpenMPI/OpenSHMEM 等任一编程模型; - 熟悉 RDMA 网络构建、优化与故障定位,有 ibverbs 编程经验;
- 良好的自我驱动能力及文档梳理能力