岗位职责
- 负责研究AI大模型的推理性能优化算法,优化大模型推理部署的算力和访存瓶颈,提升AI模型在GPU、AI加速器等硬件上部署性能效率,推动大模型普惠应用和高性价比的竞争力;
- 负责高性能软硬结合的大模型推理优化方法研究,在AI类业务场景尤其是大模型场景下,通过结合模型算法和硬件来充分挖掘软硬件协同的组合优化潜力,带来高价值的性能和成本优势;
- 负责研发业界SOTA的多模态大模型计算性能优化方法创新,增强技术壁垒,并在云的商业业务中产生核心价值。
职位要求
- 博士在读,且发表过一篇以上的AI类CCF-A会议的文章;
- 熟悉AI深度学习和大模型原理和技术栈,有清晰的理解和认系统性的认知,熟悉AI部署和推理流程,hands-on操作过大模型的部署和性能分析,具备独立工程研发、性能分析和落地能力;
- 熟悉常见的模型性能优化和推理加速方法,包含不限于量化/压缩/算子优化/结构优化/并行等,有对大模型优化加速的经验;
- 学习和研究能力强,能够快速掌握新领域和新技术,并具备创新能力;思考沟通表达能力强。