岗位职责
负责机器学习在线推理平台研发,构建从离线训练到在线推理工程化与产品化建设, 提供一站式服务能力; 参与支持多种机器学习框架(tf/pytorch/lgb/xgb)的在线推理引擎服务的研发与性能调优, 参与并保障深度学习算法全栈流程的工程落地; 参与基于K8S调度的,支持多种机器学习框架的分布式训练服务研发和性能优化; 了解主流应用场景模型 (推荐/NLP/图像/生成式) 结构与原理, 参与分析与模型调优; 持续保障并追求在线服务的高可用与高性能。
职位要求
计算机,通信相关专业本科以上学历,3年以上后端服务开发经验; 具有复杂系统软件的设计能力和调试能力,熟知常见的设计模式和架构的trade-off; 精通Linux平台下的C/C++高性能服务编程,对 内存管理/网络/多线程/高并发/分布式 等细节领域有深刻理解;有良好的算法和数据结构基础;同时熟悉Python编程更佳; 在搜索、广告、推荐、机器翻译, 生成式AI等场景下有大规模机器学习/深度学习工程实践或特征工程实践者优先; 能够快速理解业务,具备良好的沟通和团队合作能力,有良好的项目管理能力,有一定的技术前瞻性; 有复杂问题的分析与解决能力,积极主动,自我学习能力强,坚毅,有足够的耐心; 工程实现包括GNN在内的机器学习算法和优化,跟踪前沿,对最新算法进行工程实现和验证。 加分项 具备端到端的深度学习算法实践能力优先; 熟悉CUDA, GPU编程背景优先; 有 TensorRT/Triton/FastTransformer/DeepSpeed 等使用与调优经验优先; 有 TVM、MLIR 等模型编译经验优先。