岗位职责
- 参与研发业内领先的低延迟、高吞吐的大模型推理优化方案，优化目标包括视频生成大模型、多模态大模型、语言大模型等；
- 参与调研并复现大模型推理优化方向最新论文，具体方向包括高性能算子开发、大模型量化、分布式大模型并行推理等；
- 参与组内服务化框架开发，提升大模型服务部署效率。
职位要求
- 计算机相关专业，熟悉Linux开发环境，熟练掌握 C++/Python编程语言，熟悉常见算法与数据结构；
- 熟悉深度学习相关基础知识，了解Transformer类网络结构特点，了解常见大模型推理优化技术；
- 具有良好的团队合作精神和沟通能力，积极乐观、具备抗压能力；
- 加分项：具备CUDA编程能力、熟悉分布式大模型并行推理方案。
