岗位职责
- 观测和分析在离线推理和训练场景的业务特点，例如软件热点，硬件瓶颈等，提出优化方案；
- 利用通用CPU（如ARM、X
- RISC-V等）、GPU、AI加速器架构特点、结合编译/操作系统/高性能库等底层软件技术，联合业务团队，极致优化指定业务性能；
- 导入异构卡构建/编译方案，适配业务场景，并进行性能评估。
职位要求
- 了解计算机体系结构、操作系统原理、编译原理、计算机网络中的基本概念和原理；
- 任一场景，LLM/NLP/推荐/视觉/语音下的训练、推理部署优化相关实践经验；
- 熟悉一种AI模型训练或推理框架（PyTorch或者Tensorflow）；
- 了解AI场景的模型/算子编译优化（例如Xla/Torch.Compile/Triton）优先；
- 有性能评估/预估，算子性能优化、AI计算软硬件协同设计相关实践经验者优先。
