岗位职责
- 负责工程推理平台的研发与优化,支撑平台持续升级优化;
- 负责模型推理加速,深入优化模型性能,降低资源成本;
- 负责算法项目的工程化落地,适应业务的发展,推动业务的落地解决。
职位要求
- 后台技术扎实,掌握Java/Python/C++语言;有较强的高性能编程基础,了解常规的性能优化方式;
- 熟悉主流推理框架和推理加速技术,包括但不限于TensorRT/TVM/onnxruntime等,模型压缩、模型量化等技术;
- 熟悉深度学习相关平台/系统,如PyTorch、TensorFlow、Megatron-LM、vLLM、TensorRT/llm等项目,有底层优化或开源经验者优先;
- 熟悉GPU体系结构,有CUDA编程经验或CPU平台加速核算法开发使用经验者优先;
- 良好的主动性和责任感,优秀的分析问题和解决问题能力,良好的团队合作意识和沟通能力。 加分项 无