AI基建-大模型推理引擎开发工程师(高性能算子)

- 通过编译优化、模型并行优化、图融合、高性能算子开发、低精度计算、Memory复用、Cache优化、高并发服务请求优化等技术，打造业界领先的高性能训推引擎； - 设计和开发高性能算子库，研究最新的GPU计算技术和优化方法，以充分利用GPU的并行计算能力，支持大模型推理优化和部署；

- 硕士及以上学历，计算机、软件工程、数学等相关专业，具备扎实计算机理论基础和丰富编程经验，在深度学习领域有深入研究与实践。 - 精通 Python，熟练掌握至少一种深度学习框架（如 PyTorch），理解深度学习和transformer系列算法，有丰富模型开发与调优经验，能独立搭建复杂模型并优化性能。 - 熟悉主流的并行编程以及性能优化技术，熟悉CUDA和TensorCore编程，有相关高性能优化经验(nsys/ncu)优先； - 熟悉flashattention，TransformerEngine, flashinfer等算子库， 有使用triton/tilelang等做高性能算子开发经验优先 - 有良好团队协作与沟通能力，能与不同背景成员有效沟通协作，责任心强、敬业热情，能承受工作压力，保证项目按时高质量交付。