部门介绍
我们是京东云事业部AI Infra团队,致力于前沿的大模型技术创新与应用。我们专注于研发业界领先的大模型算法,构建极致高效的大模型训练与推理平台,提供高吞吐高可用、低成本低延迟的大模型服务。我们的核心使命是高效支持和驱动京东集团内外部的大模型业务生态及智能体应用,涵盖业界主流开源模型和京东自研模型的训练与推理服务。我们团队秉承技术驱动、创新为本的理念,为每一位成员提供广阔的成长空间和富有挑战性的项目。
- 主导大模型核心算子开发,针对GPU及国产NPU架构实现FA、MLA等关键算子,优化精度与性能;
- 深度优化AI编译器,突破算子融合与内存分配瓶颈,设计国产芯片自动化优化策略;
- 推进低比特量化技术落地,实践W4A
- FP8等方案,结合计算通信Overlap降低推理延迟;
- 建立性能评估与问题定位机制,诊断精度损失与性能回退,形成可复用的调优方法;
- 总结异构硬件优化经验,输出技术文档与案例,提升团队整体交付效率。
岗位职责
招聘官网暂未提供完整岗位职责,请前往官网核实。
职位要求
- 具备异构高性能算子开发能力,能针对GPU及国产NPU架构设计FA、MLA、MoE等核心算子,完成精度校准与性能优化;
- 拥有AI编译器深度优化经验,能基于TVM或MLIR突破算子融合、内存分配瓶颈,面向国产芯片设计自动化优化策略;
- 具备系统诊断与归因能力,能在算子精度损失、性能回退等问题中定位根因,构建可复用的诊断与调优方法体系;
- 能够追踪低比特量化等前沿技术,推动W4A
- FP
- GPTQ等方案从验证到生产落地,结合计算通信重叠调度降低延迟;
- 以攻克大模型底层计算性能极限为事业追求,长期投入异构硬件优化与AI基础设施能力建设;
- 符合京东价值观:客户为先、创新、拼搏、担当、感恩、诚信。