岗位职责
我们团队将致力于探索新型LLM架构的训练与推理加速技术，推动模型结构与算法层面的创新，全面提升LLM的效率与性能。
- 研发Diffusion LLM的高效训练与推理框架，实现其推理性能1000倍的提升，突破现有扩散模型在语言生成中的效率瓶颈
- 和LLM算法研究员合作，通过算法和系统的co-design，加速现有LLM的训练和推理
- 针对新型LLM优化关键算子与分布式并行计算策略，显著降低其训练与推理成本
- 开发面向LLM算子与并行计算的自动化优化框架，为算法研究人员提供一站式的自动优化解决方案，显著提升模型结构的开发效率与系统性能。
职位要求
- 硕士以上学历
- 具有至少 3 年以上的AI系统/分布式并行计算领域开发经验；
- 熟悉 Transformer/MoE 等大模型结构、大模型训练/推理系统, 熟悉 sglang、vllm、megatron 等训推框架和大规模训推优化；
- 较强的团队沟通和学习能力，较强的编程能力
