岗位职责
细分子方向:音视频生成预训练infra、音视频生成后训练infra 【音视频生成预训练infra】
- 在 Megatron/FSDP 上为音视频 MoE DiT 调优并行策略(CP/EP/PP)
- 优化长序列 attention 与 MoE 算子
- 显存、通信、数据加载与 checkpoint 优化
- 故障检测与快速恢复 【音视频生成后训练infra】
- 优化 DiT RL 框架:视频 rollout、reward 打分、训练三段的调度
- 实现异步 rollout、共卡/分离部署、reward 服务化
- 提升 SFT/蒸馏训练吞吐
- 支持多 reward 模型接入
职位要求
熟悉 verl 等 RL 框架与异步 RL;PyTorch 分布式;工程能力强 · 加分项 推理框架(vLLM/SGLang/xDiT)经验;RL 系统开源贡献