岗位职责
- 负责持续跟踪业界最前沿的模型(大模型/搜广推等)与工程架构,持续优化极致的性能
- 负责模型服务框架开发、性能分析以及调优,为电商场景下提供全栈式Benchmark/Serving/Monitor优化方案
- 负责新硬件引入,通过结合软硬件优化, 在异构场景下,挤压算力的极限降低模型服务资源成本
职位要求
- 系统功底扎实,编程素养良好,熟悉C/C++,具备系统软件开发能力
- 熟悉至少一种当前主流的模型系统框架
- 追求技术极致,务实,对未知领域不断学习充满热情,致力于开发SOTA水平模型Infra 加分项
- 有GPGPU/DSA算子优化经验
- 熟悉模型量化/蒸馏/剪枝等任一技术
- MLSys方向的知名开源项目贡献者