岗位职责
高德 AI Infra 团队主要负责高德下一代 AI 研发基础设施建设，致力于为 AI 研发提供稳定、高效、可扩展的工程底座。我们围绕 数据处理、算力调度、训练和推理引擎优化、训推平台等方向，建设服务于高德整体业务的 AI Infra 基础设施。团队聚焦于 AI Infra 方向，欢迎对 AI 基础设施有热情的同学加入，一起打造支撑未来高德业务快速发展的下一代 AI 基础设施。 工作内容包括并不限于：
- 负责大模型训练框架的架构设计与性能优化，覆盖数据并行、张量并行、流水线并行与专家并行等分布式策略，支撑千亿参数级模型的稳定高效训练。
- 主导推理引擎的研发与迭代，围绕 KV Cache 管理、Continuous Batching、投机解码、量化与算子融合等方向持续优化，显著降低首 Token 延迟与单位推理成本。
- 深入 GPU/NPU 异构算力底层，结合 CUDA、Triton、FlashAttention 等技术自研高性能算子，打通编译器与运行时链路，充分释放硬件算力上限。
- 建设训练与推理一体化的可观测与故障自愈能力，覆盖慢节点检测、通信抖动定位、断点续训与自动容错，保障大规模集群长周期任务的高可用。
- 与 数据、算法、平台、业务团队协同，将训练加速与推理降本能力沉淀为标准化平台服务，推动优化成果在多条业务线规模化复用。
职位要求
- 本科及以上学历，计算机科学、软件工程或相关专业，具备系统软件、高性能计算或 AI 基础设施方向的研发经验。
- 精通 C++/Python，具备扎实的多线程、内存管理与性能剖析能力，熟悉 CUDA 编程模型与 GPU 体系结构，能独立完成算子级性能调优。
- 深入理解主流训练框架（Megatron-LM、DeepSpeed、PyTorch FSDP）或推理引擎（vLLM、SGLang、TensorRT-LLM）的实现原理，具备二次开发或自研落地经验。
- 具备千卡及以上规模分布式训练集群的实战经验，熟悉 NCCL、RDMA 等高性能通信机制，能定位并解决通信瓶颈、显存溢出与训练不稳定问题。
- 熟悉模型量化、稀疏化与编译优化（TVM、MLIR、Triton）等推理加速技术，有将优化方案落地到线上高并发服务并量化收益者优先。
- 具备较强的技术攻坚与跨团队协作能力，能在模糊问题中拆解目标、推动方案落地，并对性能与成本指标结果负责。
