招聘中 校招

【北斗】分布式AI推理/AI-Infra研发工程师

美团

  • 北京市、深圳市
  • 软件

收录时间

岗位职责

为了更好地提升城市即时配送的效率与体验,2017年,美团启动了无人机配送服务的探索,通过科技创新推动履约工具变革,加快建设空地协同的本地即时配送网络。目前,美团已初步完成了自主飞行无人机、智能化调度系统及高效率运营体系的研发建设工作,由此打造了一个服务于多场景、多天候的城市低空物流解决方案。 在该岗位中您将负责:

  1. 推理框架研发:参与构建与优化高性能分布式 AI 推理引擎,支持大模型在多卡、多机环境下的高效分布式部署与高效通信;
  2. 分布式任务调度:参与设计与实现面向大模型推理的高效任务调度算法。针对 Prefill与 Decoding阶段的不同资源需求,协助研发 PD 分离架构下的请求流转与精细化调度;
  3. 全局负载均衡:协助构建多节点、多实例集群的负载均衡策略。基于请求长度预测、全局 KV Cache 缓存命中率以及运行时显存状态,实现智能流量分发,避免集群局部热点与雪崩;
  4. 弹性伸缩与容错:参与大规模分布式推理集群的健康度监控,协同开发故障自动检测与动态隔离机制,提升高并发在线服务(LLM-as-a-Service)的可用性(SLA);
  5. 性能剖析与调优:协助排查高并发场景下,由网络延迟、长尾请求(Tail Latency)、线程锁竞争或集合通信(NCCL)瓶颈导致的全局吞吐跌落;
  6. 主动探索并运用各类AI工具优化日常工作流程,积极推动AI在无人机业务中的落地实践。

职位要求

  1. 2027届获得本科及以上学历,计算机、数学等相关专业优先;
  2. 具有优秀的基础算法、代码能力,熟练掌握C/C++或Python编程语言,ACM/ICPC、NOI/IOI、Top Coder、Kaggle等比赛获奖者优先;
  3. 熟悉计算机体系结构,对 CPU/GPU 内存层次、PCIe/NVLink 带宽有清晰概念;理解操作系统核心原理(如进程调度、内存管理);
  4. 熟悉分布式系统的基本原理(如一致性协议、一致性哈希、负载均衡算法、集合通信 MPI/NCCL),具备良好的分布式思维;
  5. 具备 CUDA C/C++ 开发或优化经验,或了解 OpenAI Triton 算子编写者优先;
  6. 熟悉或阅读过主流推理/训练开源项目的源码者优先,如 vLLM、SGLang、TensorRT-LLM、Triton Inference Server、DeepSpeed、Megatron-LM 等 【岗位吸引力】 在这一职位上: 您将有机会参与无人机、机器人领域内大规模的数据处理分析系统的构建,进而为业务的深入发展做出贡献; 您处理的不是实验室的干净数据,而是自动驾驶、多模态智能体等真实物理世界的海量、高频、连续数据。你的代码将实时支撑物理与数字世界的万亿级流转; 您将全流程参与“底层算力 - 集合通信 - 显存调度 - 集群网关”的端到端优化,你的每一次延迟降低,都将直接变成物理实体更快的反应速度。

相似岗位

有些机会,只在官网短暂出现

真正值得关注的岗位,常常只在企业官网短暂开放,可能两三天后就下线,也未必会同步到综合招聘平台。没有持续关注,你甚至不会知道它曾经出现。职先机持续聚合并核验官网岗位,帮你抓住职场先机,快人一步。

微信小程序 / 当前岗位

在微信里继续看这个岗位

美团【北斗】分布式AI推理/AI-Infra研发工程师

扫码直达当前岗位收藏、浏览记录和下线提醒留在微信里
电脑端可直接微信扫码;手机端可保存小程序码后在微信中识别。
微信扫码在职先机小程序查看【北斗】分布式AI推理/AI-Infra研发工程师正在准备岗位码
职先机微信小程序一岗一码 · 正式版直达保存小程序码

岗位提醒 · 01

收藏当前岗位,下线及时通知

当前岗位【北斗】分布式AI推理/AI-Infra研发工程师美团 · 北京市、深圳市

01

扫码进入当前岗位无需重新搜索,直接打开当前岗位详情。

02

收藏并开启提醒在小程序内收藏后,岗位下线或变化时及时通知。

03

继续查看相似机会原岗位变化时,可继续浏览相关在招岗位。

职先机会持续核验公开岗位;岗位状态与最终招聘结果仍以企业招聘官网为准。

微信小程序扫码打开当前岗位

扫码打开当前岗位,完成收藏并开启下线提醒。

微信扫码在职先机小程序收藏【北斗】分布式AI推理/AI-Infra研发工程师正在准备岗位码

微信小程序 · 当前岗位

请前往微信小程序提交内推申请

美团【北斗】分布式AI推理/AI-Infra研发工程师校招 · 北京市、深圳市

01进入当前岗位扫码或打开后直达本岗位内推申请页。

02提交 PDF 简历简历替换、处理进度和消息提醒在小程序内同步。

手机端将尝试直接打开微信;电脑端请使用微信扫码。

微信扫码进入【北斗】分布式AI推理/AI-Infra研发工程师内推申请页正在准备岗位码
当前岗位专属码扫码后无需重新搜索岗位保存小程序码

内推提示

暂不支持该岗位内推

如需投递,建议前往官网进行投递。