岗位职责
- 负责多模态大模型（如internVL/CLIP等）的推理性能优化工作，提高模型的推理速度及效率
- 了解大模型的训练和微调流程、Prompt Engineering等，熟悉相关训练和部署工具的使用，在量化、剪枝和蒸馏上有实际落地经验
- 熟悉业界主流的AI加速库和框架，探索新的推理优化技术和算法
- 深入了解深度学习框架（如PyTorch、TensorFlow等），并熟悉其优化技术和工具链。分析并识别模型的瓶颈，设计和实现相应的优化方案
职位要求
- 计算机、高性能计算（HPC）、软件工程、人工智能等相关专业硕士及以上学历，具备大模型推理优化或 ML Sys 实际生产环境落地经验
- 具有较强的编程能力，熟练使用Python等编程语言，熟悉CUDA等并行计算技术
- 熟悉深度学习框架（如PyTorch、TensorFlow等），熟悉其优化技术和工具链
- 了解主流图文多模态大模型的网络结构，熟悉相关attention/缓存等策略 加分项
- 有电商相关背景
- 在MLSys/SOSP/NIPS/ICML等期刊或会议上发表过相关论文
