招聘中 社招

阿里控股-大模型部署架构与调度技术专家-杭州

阿里集团

  • 杭州

收录时间

岗位职责

  1. 负责大模型部署架构设计,面向分布式推理、异构算力及 EPD 分离场景,优化部署拓扑、资源组织与跨组件协同机制。
  2. 负责请求调度与流量治理,结合请求特征、实例负载、缓存命中及服务等级,设计路由、排队和负载均衡策略。
  3. 负责端到端推理链路建设,优化请求接入、预处理、引擎交互与流式返回,降低通信和数据处理开销,提升首 Token 延迟、输出流畅性与吞吐表现。
  4. 负责容量管理与弹性调度,设计容量评估、扩缩容、资源池化及多租户配额机制,在满足服务目标的前提下提升算力利用率、降低成本。
  5. 设计请求准入、过载保护、超时重试与背压机制,保障混合负载和突发流量下的公平性、资源隔离与系统稳定性。
  6. 建设服务发现、健康检查与故障切换机制,完善可观测性、压测及故障演练,推动线上问题治理。

职位要求

  1. 计算机基础扎实,深入理解分布式系统,熟练掌握 Go、C++、Java、Python 等至少一种语言,具备复杂系统设计与开发能力。
  2. 熟悉 Linux、容器与 Kubernetes,在分布式部署、请求调度、流量治理或弹性调度至少一个方向有深入经验。
  3. 理解 Prefill/Decode分离、动态批处理、KV Cache 与流式响应,了解 vLLM、SGLang 等推理引擎及其对部署和调度的要求。
  4. 具备链路优化、性能分析与生产故障定位能力,能够通过实验验证方案、推动跨团队落地,并使用 AI 编程工具提升效率、独立验证结果。
  5. 具备大规模推理服务、Prefill/Decode 分离大规模部署、缓存感知调度或异构算力管理经验者优先。

有些机会,只在官网短暂出现

真正值得关注的岗位,常常只在企业官网短暂开放,可能两三天后就下线,也未必会同步到综合招聘平台。没有持续关注,你甚至不会知道它曾经出现。职先机持续聚合并核验官网岗位,帮你抓住职场先机,快人一步。

微信小程序 / 当前岗位

在微信里继续看这个岗位

阿里集团阿里控股-大模型部署架构与调度技术专家-杭州

扫码直达当前岗位收藏、浏览记录和下线提醒留在微信里
电脑端可直接微信扫码;手机端可保存小程序码后在微信中识别。
微信扫码在职先机小程序查看阿里控股-大模型部署架构与调度技术专家-杭州小程序码按需加载
职先机微信小程序一岗一码 · 正式版直达

岗位提醒 · 01

收藏当前岗位,下线及时通知

当前岗位阿里控股-大模型部署架构与调度技术专家-杭州阿里集团 · 杭州

01

扫码进入当前岗位无需重新搜索,直接打开当前岗位详情。

02

收藏并开启提醒在小程序内收藏后,岗位下线或变化时及时通知。

03

继续查看相似机会原岗位变化时,可继续浏览相关在招岗位。

职先机会持续核验公开岗位;岗位状态与最终招聘结果仍以企业招聘官网为准。

微信小程序扫码打开当前岗位

扫码打开当前岗位,完成收藏并开启下线提醒。

微信扫码在职先机小程序收藏阿里控股-大模型部署架构与调度技术专家-杭州小程序码按需加载

微信小程序 · 当前岗位

请前往微信小程序提交内推申请

阿里集团阿里控股-大模型部署架构与调度技术专家-杭州社招 · 杭州

01进入当前岗位扫码或打开后直达本岗位内推申请页。

02提交 PDF 简历简历替换、处理进度和消息提醒在小程序内同步。

手机端将尝试直接打开微信;电脑端请使用微信扫码。

微信扫码进入阿里控股-大模型部署架构与调度技术专家-杭州内推申请页小程序码按需加载
当前岗位专属码扫码后无需重新搜索岗位

内推提示

暂不支持该岗位内推

如需投递,建议前往官网进行投递。