部门介绍
我们是京东云事业部AI Infra团队，致力于前沿的大模型技术创新与应用。我们专注于研发业界领先的大模型算法，构建极致高效的大模型训练与推理平台，提供高吞吐高可用、低成本低延迟的大模型服务。我们的核心使命是高效支持和驱动京东集团内外部的大模型业务生态及智能体应用，涵盖业界主流开源模型和京东自研模型的训练与推理服务。我们团队秉承技术驱动、创新为本的理念，为每一位成员提供广阔的成长空间和富有挑战性的项目。
- 主导AI云推理架构规划，设计PD分离、KV池化与通信优化方案，应对高并发低延迟场景；
- 构建AI原生网关与高可用平台，实现异构资源调度、动态路由及深度可观测性等核心能力；
- 建立全链路稳定性保障机制，通过巡检、告警与监控提升服务可用性；
- 探索前沿算法并推动落地，在关键指标上取得可量化技术突破；
- 总结方法论并沉淀经验，通过技术评审与分享带动团队技术水平提升。
岗位职责
招聘官网暂未提供完整岗位职责，请前往官网核实。
职位要求
- 具备大规模分布式推理系统或AI平台整体架构设计经验，能主导制定中长期技术规划，推动PD分离、KV池化、通信优化等方案在高并发低延迟场景落地；
- 拥有AI原生平台核心能力建设经验，负责过异构资源调度、动态路由、请求治理、深度可观测性等关键方向的设计与实施，保障复杂生产环境下的系统稳定性；
- 具备推理服务全链路稳定性保障能力，熟悉巡检、告警、多维监控等机制，能快速定位问题并提升系统可用性；
- 能够穿透复杂分布式系统的性能瓶颈与稳定性故障，定位底层缺陷并形成可验证的优化路径；
- 跟踪业界推理架构演进趋势，主动识别改进机会，在关键算法指标上取得可量化突破；
- 符合京东价值观：客户为先、创新、拼搏、担当、感恩、诚信。
