岗位职责
- 负责开发和优化TTS,LLM,VLM等大模型推理引擎;
- 与大模型算法同学深度合作,联合优化,打造行业领先的高性能推理引擎;
- 跟进机器学习前沿技术,将合适成果落地于实际应用。
职位要求
- 精通TensorFlow、PyTorch等主流深度学习框架,具备扎实的模型训练、调优及线上部署实践经验;
- 精通C/C++,精通常用数据结构与算法;
- 熟练掌握高性能计算优化技术,深入理解计算机体系结构,熟悉并行计算优化、访存优化,低比特计算等;
- 熟悉大模型推理框架(如vLLM/SGLang/TRT-LLM等),有推理优化经验者优先;
- 优秀的分析问题和解决问题的能力,对解决具有挑战性的问题充满激情;
- 责任心强,良好的业务意识,团队合作能力和沟通协调能力。