蚂蚁数字科技-数字科技线-大模型训推引擎工程师

按方向划分，你将承担以下职责中一项或多项：

1. 分布式训练方向： （1）设计并调优大规模混合并行策略（TP/PP/DP/EP/CP 组合方案），持续提升集群 MFU； （2）做训练性能 profiling 与全链路瓶颈攻坚，扛起训练稳定性终极排查（NCCL 超时、梯度异常、显存泄漏）； （3）对 Megatron-LM / DeepSpeed 等训练框架做深度适配、魔改与 bug 修复，主导 mid-train 阶段的分布式方案设计与执行，与基座模型团队做核心技术对接；
2. 推理服务方向： （1）负责推理服务搭建与维护（vLLM / SGLang 部署、升级、深度调优）； （2）推进批量推理优化与量化方案落地，在精度与吞吐之间找到商业最优解； （3）建设 Checkpoint 管理与模型格式转换工具链，作为基模与算法团队之间的桥接层，提供日常 infra 支持；
3. Agentic RL 沙箱方向： （1）从 0 到 1 搭建 Agentic RL 训练的沙箱环境基建，做多团队协作的技术枢纽； （2）设计标准化的环境接口（observation / action / reward），保障沙箱的隔离性、容错与资源管控； （3）优化沙箱吞吐与延迟，持续接入新工具与新环境；
4. 大模型训练参与方向： （1）负责专项数据合成，为模型训练提供高质量数据燃料； （2）参与专项能力优化与模型训练，把引擎能力转化为真实的模型能力提升。

1. 编程功底：熟练掌握 Python / C++，有 GPU 编程（CUDA / Triton）或分布式系统实战经验优先；
2. 框架深度：对 Megatron-LM / DeepSpeed / vLLM / SGLang 中至少一项有源码级理解，而非停留在配置层面；
3. 协作与 Ownership：能向下扎到代码细节，也能向上对齐目标，作为多团队间的技术枢纽把事推动落地；
4. 加分项： （1）万卡级集群训练经验； （2）开源框架贡献； （3）Agentic RL / RLHF 训练系统落地经验。