岗位职责
- 负责大模型训练和推理系统的研发与性能优化;
- 负责异构硬件的引入与训练推理框架的集成,包括但不限于GPU、NPU、TPU等;
- 与算法部门深度合作,进行算法与系统的联合优化。
职位要求
- 熟练掌握Linux环境下的C/C++与Python语言;
- 熟悉至少一种机器学习框架(TensorFlow/PyTorch/MxNet或其他自研框架);
- 熟悉至少一种大模型训练/推理框架,包括但不限于:vLLM、TensorRT-LLM、SGLang、Megatron-LM等;
- 具有独立解决问题的能力,良好的团队合作精神,具备优秀的复杂问题拆解能力;
- 有强烈的工作责任心,较好的学习能力、沟通能力和自驱力。