岗位职责
- 负责高德算法平台各业务域的模型的推理优化工作；
- 负责解决GPU上LLM模型推理优化工作；
- 负责自研、开源推理框架的研发和性能优化工作；
- 紧跟业内前沿技术和方案，推动团队GPU相关业务发展。
职位要求
- 熟悉C/C++编程，计算机体系结构和操作系统原理，丰富的系统开发优化经验；
- 熟悉GPU架构、CUDA编程、TensorRT，具备丰富的GPU瓶颈定位、优化能力；
- 熟悉主流的深度学习模型和大模型，掌握对应模型原理和算子实现；
- 熟悉深度学习框架(Pytorch, Tensorflow, PaddlePaddle、MXNet等)或大模型推理框架(vLLM、LMDeploy、llama等)源码/架构，有二次开发经验优先；
- 有大规模线上高性能计算系统优化、模型推理优化经验优先；
- 有高性能算子开发经验优先；
- 有主动学习能力、强大的自我驱动力，对极致的性能优化有热情。
