部门介绍
我们是京东云事业部AI Infra团队，致力于前沿的大模型技术创新与应用。我们专注于研发业界领先的大模型算法，构建极致高效的大模型训练与推理平台，提供高吞吐高可用、低成本低延迟的大模型服务。我们的核心使命是高效支持和驱动京东集团内外部的大模型业务生态及智能体应用，涵盖业界主流开源模型和京东自研模型的训练与推理服务。我们团队秉承技术驱动、创新为本的理念，为每一位成员提供广阔的成长空间和富有挑战性的项目。
- 主导大模型推理优化体系规划，设计自注意力机制、并行推理与负载均衡等无损优化方案；
- 实施知识蒸馏、量化、剪枝、KV压缩等轻量化技术，推动有损加速方案落地部署；
- 从软硬件协同视角优化计算通信重叠与异构硬件适配，提升端到端推理性能；
- 建立量化评估机制，通过基准测试验证优化收益与方案通用性；
- 系统性评估硬件资源利用与容量调度，保障高并发场景下推理服务稳定。
岗位职责
招聘官网暂未提供完整岗位职责，请前往官网核实。
职位要求
- 具备大模型推理优化全栈经验，熟悉自注意力机制改进、并行推理与负载均衡等无损优化方案的设计与实施；
- 拥有轻量化推理技术落地经验，能完成知识蒸馏、量化、剪枝及缓存压缩等有损加速技术的选型、适配与调优；
- 具备系统瓶颈洞察能力，能从性能数据中识别核心瓶颈，判断软硬件协同优化关键点并形成可验证的优化假设；
- 拥有创新优化探索能力，能针对计算通信重叠、异构硬件适配等方向设计并试行新的加速方案，持续提升端到端性能；
- 在优化方案设计与评估中坚持严谨的量化标准与验证流程，以高标准要求自身并带动团队追求技术卓越；
- 符合京东价值观：客户为先、创新、拼搏、担当、感恩、诚信。
