岗位职责
-参与负责百度文心大模型的训练优化，百度飞桨的分布式训练功能和架构开发，以及训练工程效率相关系统的研发和优化工作 -参与前沿大模型训练技术和超大规模分布式训练架构技术的探索和研究，探索深度学习大语言模型、跨模态模型等领域的算法-工程协同优化方案 -跟进深度学习前沿软件栈，优化飞桨框架编译安装流程，提升对不同操作系统和硬件平台的兼容性 -负责高性能计算平台的设计、研发，高性能计算库、通信库开发与优化 -建设和维护CI/CE等工程设施，保障飞桨框架基础能力、大模型性能等关键指标的稳定性。 -根据整体技术方案完成高质量的开发、自测及项目文档编写；探索业界工程效能度量和保障相关自动化平台和技术，推广新理念、新技术、新方法，提升团队研发效率
职位要求
-本科及以上学历，计算机软件或相关专业，有Linux/Unix下开发经验，熟悉多线程编程、网络编程； 熟练掌握C++、Python等编程语言，深入理解至少一种深度学习框架（PaddlePaddle、Pytorch、Tensorflow）的原理，具备丰富的开发经验 -熟悉大模型训练技术（高性能，算法策略，集群容错）或优化技术，熟悉CUDA编程，高性能优化者优先 -了解飞桨或其他深度学习分布式训练框架技术如DeepSpeed，Megatron等经验者优先 -具有以下条件者优先：对分布式计算有深入理解，特别是通信策略在AI计算中的应用；熟练使用Cublas、Cudnn、MIopen、OpenBlas、MKL、Eigen等主流计算库；精通CUDA、OpenCL和ARM-GPU等开发，有过并行计算优化协同开发经验；熟悉AI training通信过程，熟悉MPI、NCCL、RDMA、GPU Direct等通信技术；精通常用硬件平台性能分析工具链，如CodeXL\NVVP\GPA等；熟悉Kubernetes、OCI/Docker、Istio等技术的应用，掌握其核心原理和实现机制，能够熟练运用这些技术构建云原生应用；具有深度学习框架开发、DevOps、研发效能平台、开源项目贡献等等
