部门介绍
国际站引擎团队主要负责支撑阿里国际站搜推以模型推理服务(包括大模型、搜推广模型),公司AI核心团队,处于高速发展阶段。团队技术氛围好,AI业务处于业界前沿。业务侧主要支持Alibaba.com AI化,以及Accio.com(B端AI产品)。
岗位职责
负责支撑阿里国际站大模型模型后训练服务参与开发和优化大模型后训练框架,支持千卡H100 & B200分布式训练集群的相关优化参与大模型结构设计,并联合业务进行模型训练效率提升和效果验证。
职位要求
- 熟练掌握 linux 环境下的 C++/Python 语言,有大规模机器学习经验优先至少掌握一种机器学习框架(Tensorflow,Pytorch 或其他自研框架)。
- 理解 GPU 硬件架构,理解 GPU 软件栈(CUDA,cuDNN),具备 GPU 性能分析经验优先。
- 熟练使用主流大模型训练框架DeepSpeed、Megatron,掌握3D并行、ZeRO机制、Flash-Attn等的原理、使用场景、优劣势以及可优化方向。
- 熟练使用主流大模型RL训练框架VeRL、ROLL、Slime等,有SFT、RLHF和RLVF相关经验。