岗位职责
- 构建适合电商领域的大模型，提供高性能低成本的在离线解决方案，与算法工程师密切合作，持续提升大模型的能力
- 设计开发大模型训练系统，优化实现多种并行策略、算子优化、ZeRO技术、FlashAttention、量化技术、高性能Reduce通信库等，极致优化训练性能
- 设计开发大模型推理系统，应用PagedAttention、Batching优化、GPU算子优化、量化与压缩等技术，构建高吞吐、低延迟、支持数万QPS的在线服务
- 跟进最新的AI算法和infra的进展，并高效地将新技术落地应用到PDD电商的实际业务中，为消费者创造价值
职位要求
- 本科及以上学历，具有扎实的计算机基础，熟悉操作系统和网络，熟悉C++/Python编程，具有高性能系统开发经验
- 熟悉主流深度学习框架TensorFlow或PyTorch，熟悉至少一种模型推理框架如vLLM/TensorRT-LLM等
- 熟悉CPU/GPU架构和高性能计算技术，有CUDA/cutlass等开发优化经验，或有分布式训练系统开发经验
- 工作认真负责，对技术有强烈的追求，能将前沿技术转化为实际工程优化，有较好的沟通协作能力 加分项
- 熟悉kernel算子开发，有GPU/NPU算子优化经验者优先
- 熟悉大模型开源项目(如DeepSpeed/Megatron-LM/vLLM等)者优先
- 有ACM/ICPC等编程竞赛获奖经历者优先
