岗位职责
- 大模型推理优化技术的研究、工程落地实验，包括但不限于，模型量化、模型蒸馏、模型压缩，token&上下文压缩、skill压缩、投机解码、并行解码等优化技术。
- 大模型推理框架的工程优化研究，包括但不限于（sglang、vllm、tensorrt-llm），follow最新的工程落地技术，结合实际的业务场景改进已有的开源框架。
- 大模型训练优化技术的调研，做大模型后训练环节（SFT、RL、AgenticRL）持续迭代和优化，和其他成员配合攻克大模型后训练相关的技术难题。
- 在大模型推理优化、训练优化方面产出相关的论文和开源代码贡献。
职位要求
- 研究生及以上学历，计算机、人工智能相关专业
- 扎实的数学功底和编程能力，熟悉深度学习理论和算法。
- 精通C++、python等常见编程语言。
- 技术热情高，具备很强的技术驱动力和自我管理能力，具有探索和创新精神。
- 在ACM/ICPC的亚洲区以上的级别比赛获奖者优先
- 有重大开源项目贡献者优先。
