岗位职责
- 负责跟踪大模型训练与推理的前沿技术,结合昇腾算力平台特性进行技术迁移与创新,并制定相应的技术演进路线图。
- 主导大模型训练场景的端到端性能与成本优化,重点构建低精度训练技术体系(包括混合精度训练、8BIT及以下量化训练等),从算子到分布式框架实现全栈优化。
- 面向昇腾平台优化大模型推理性能,构建端云协同的推理架构,整合端侧与云侧算力,实现高效、低成本的推理服务。
- 推动算法与系统的深度协同,面向典型业务场景设计并落地高性价比的端到端AI系统解决方案。
职位要求
- 计算机、人工智能等相关专业,5年以上AI系统研发或优化经验,熟悉Transformer等大模型架构。
- 精通PyTorch/TensorFlow等框架,掌握分布式训练、量化压缩、算子优化等关键技术,具备昇腾/GPU硬件优化经验。
- 具备系统级性能优化思维,能够进行端云协同架构设计,熟悉动态调度与异构资源管理。
- 具备良好的跨团队沟通与协作能力,对AI系统性能与成本平衡有深入理解。