AI infra工程师（大模型训推优化）

图像与多模态实验室致力于构建涵盖语言、视觉、语音等多种模态的基础模型，支持多模态感知、理解、推理、生成与编辑等核心任务。我们的目标是为模型应用提供世界一流的基础模型保障，推动从纯语言任务到多模态任务的拓展，并实现从数字世界到物理世界的深度融合。

1. 与算法研究员协同工作，分析模型在训练与推理阶段的性能瓶颈，从系统-算法协同角度提出改进方案；
2. 主导或参与量化方案（量化感知训练QAT/训练后量化PTQ）的设计与实施，保障低比特下的模型质量；
3. 主导或参与Diffusion模型步数蒸馏工作，将业界前沿的加速技术（如一致性模型、渐进式蒸馏）落地到生产环境；
4. 基于vLLM / Sglang / TensorRT-LLM等框架进行深度定制与优化，开发高性能推理引擎；
5. 设计与实现动态批处理、持续批处理、流水线/张量并行等高级推理服务与调度策略。

1. 计算机科学、人工智能、电子工程等相关专业硕士及以上学历，具备2年以上机器学习系统或高性能计算相关经验；
2. 扎实的算法功底：深入理解LLM和Diffusion模型的技术细节与计算逻辑，不满足于“调用API”，追求底层优化；
3. 卓越的工程能力：精通C++/Python，具备强大的系统编程和调试能力。深度参与过vLLM、Sglang、TensorRT-LLM等至少一种推理框架优化的实际项目经验；
4. 硬件层优化经验：熟悉CUDA编程，并能熟练使用Nsight Systems/Compute等GPU性能分析工具进行瓶颈定位与优化；
5. 出色的协同能力：能够在算法研究员与工程团队之间高效沟通，用双方的语言精准对接需求与技术方案。 符合京东价值观：客户为先、创新、拼搏、担当、感恩、诚信。