岗位职责
- 负责推荐系统推理服务的整体架构设计与落地,搭建低延迟、高吞吐、高可用的分布式推理服务体系,支撑亿级用户规模的推荐场景;
- 与公司各算法部门深度合作,分析业务性能瓶颈和模型特征,软硬件结合优化,实现极致性能;
- 调研并引入前沿的推理优化技术(如稀疏推理、低精度计算、异构硬件加速),结合业务场景落地,持续提升推理服务的性能与资源利用率。
职位要求
- 具有扎实的C/C++编程能力和数据结构和算法知识;
- 理解GPU硬件架构,具备GPU性能分析和优化经验;
- 熟悉主流推理框架(TensorFlow/Torch)的使用与底层原理,能够定制化配置与二次开发;
- 具有独立解决问题的能力,能够对业务逻辑进行合理的抽象和拆分,思考架构的技术方案演进;
- 具备良好的跨团队协作能力、沟通表达能力与文档撰写能力,有较强的责任心,能够推动复杂技术问题的解决与项目落地。 加分项:
- 熟悉各类深度学习网络和算子底层实现细节;
- 具备高并发分布式服务的研发与调优经验,熟悉服务的延迟与资源优化;
- 掌握推荐系统基本原理,熟悉CTR预估、用户行为序列建模、多目标优化等常见推荐模型的推理特性,能结合模型特点做针对性优化。