岗位职责
- 负责大模型平台的架构优化，和算法一起提升大模型能力、推进落地;
- 负责新技术调研和预研，紧跟大模型方向的前沿技术;
- 设计&优化大模型训练&推理框架，通过深度优化CUDA kernel、KV Cache等优化框架性能;
职位要求
- 计算机、人工智能或相关专业本科以上学历, 1年以上的机器学习平台相关经验;
- 熟悉Cuda编程，至少熟悉cutlass、Triton等某一种高性能库
- 了解常用的大模型结构，对模型工程的关键问题有较为一定的理解
- 具有良好的沟通能力和团队合作能力，具有优秀的分析和解决问题的能力和态度;
- 熟悉c++/python任意一门语言； 加分项
- 熟悉DeepSpeed、vLLM、LMDeploy、TensorRT-LLM等大模型框架中的一种以上;
- 有Transformer等常见模型结构优化经验；
- 在ACM等知名信息学竞赛获奖、顶级会议发表过高质量系统方向论文。
