岗位职责
- 激进扩大推荐模型的行为序列长度、参数规模和训练规模，验证推荐领域的Scaling Law；
- 在亿级用户产生的数据上，构建推荐专用生成式模型的训练系统和推理系统；
- 构建跨业务、跨端的推荐基座大模型，通过蒸馏的方式，赋能多个业务的下游模型；
- 引入文本、图片、视频等多模态信号，增强推荐模型的信息输入，与协同信号联合训练；
- 构建LLM的CPT/SFT/RL系统，与推荐模型深度融合、联合训练，推进LLM4Rec的落地；
- 构建ND-Parallel并行库，支持超大规模的并行训练，优化训练效率，提升万卡集群的训练稳定性；
- 研究业界领先的高性能计算技术、分布式计算技术和深度学习技术，不断提升上述系统的规模和性能的上限。
职位要求
- 计算机、软件工程、人工智能等相关专业本科、硕士研究生或博士研究生，具有扎实的数据结构、算法和计算机体系结构基础；
- 熟练掌握C++/Python/CUDA/Triton中至少一种语言，具备优秀的编程习惯和系统设计能力，能够编写高性能、可扩展的代码；
- 深入理解TensorFlow、PyTorch、JAX等主流深度学习框架底层原理，有算子开发、性能调优或分布式训练实战经验；
- 熟悉大规模分布式系统的设计与开发，了解常用的并行策略（数据并行、模型并行、专家并行、序列并行、流水线并行等）和并行库（DeepSpeed，Megatron等）；
- 了解经典的搜广推算法（如DeepFM，DLRM，DIN等），了解主流的LLM技术（如Transformer，BERT，MoE，CLIP等）；
- 对挑战性问题（如超长序列建模、万卡规模稳定性）有强烈的探索欲望，具备优秀的逻辑思维能力、独立解决问题的能力，以及团队合作精神。 加分项
- 大模型实战：具有100B+规模大模型的预训练、微调或强化学习经验，深度优化过分布式训练系统的性能；
- 多模态经验：具有多模态表征学习经验（如CLIP，BLIP，VLM），能够将视觉/文本特征有效融入推荐系统；
- 底层优化：熟悉GPU架构，具备CUDA/Triton/Pallas编程经验，深入研究NCCL、RDMA和网络通信优化；
- 框架剖析：深入研究过一种机器学习框架（Tensorflow/PyTorch/JAX或其他自研框架)的代码和设计；
- 顶会论文：在RecSys，MLSys，NeurIPS，ICML，ICLR，KDD，SIGIR，CVPR等AI顶会有高质量论文发表；
- 开源贡献：知名开源项目（如训练框架、并行库、高性能计算库）的核心贡献者，或拥有高质量个人开源项目；
- 竞赛经历：在ACM-ICPC、Kaggle、天池等顶级算法竞赛中，或RecSys Challenge、KDD Cup、NeurIPS Competitions等顶会竞赛中，获得过优异成绩。
