岗位职责
- 参与方舟大模型训练、推理服务的稳定性治理和效率优化工作,优化超大规模异构推理集群下的大模型推理性能、成本和稳定性;
- 针对复杂的异构硬件、海量的集群资源、丰富的模型结构的排列组合问题,抽象和打磨高效率的部署链路和自动化的服务治理系统;
- 参与全球多地域、多控制面的面向集团内外的业务支持工作。
职位要求
- 熟练掌握C++,Python,Rust等一门或多门编程语言,编程风格良好,有框架设计和抽象能力;
- 对分布式系统、异构推理有浓厚兴趣,乐于解决问题,擅长用工程化、自动化的方式优化效率问题;
- 有一定的在线业务稳定性、成本治理优化经验;
- 具备良好的团队协作与沟通能力,有较强的责任心。