岗位职责
- 大模型推理与调度平台建设：主导多模态/LLM 推理服务化与模型调度中台建设，支持多模型共存、降级容错与弹性扩缩容，保障高并发低时延的线上推理体验；
- 推理加速与资源效率优化：推进推理加速与 GPU 资源复用等优化策略落地，提升模型利用率并降低单位推理成本；
- 模型成本治理体系：建设模型资源可视化与治理闭环，推动降本动作落地并形成可持续的成本优化机制；
- 服务端基础架构演进与全球化支撑：负责全球多 Region 架构规划与服务端架构演进，建设统一网关与用户服务体系，支撑业务快速迭代；
- SRE 稳定性与可观测性建设：构建全链路监控与自动化运维能力，完善异常响应、容量管理与弹性扩容机制，提升平台可用性；
- 架构融合与平台化治理：推动团队多款 AI 产品服务端架构融合与服务复用，减少重复投入并沉淀统一能力。
职位要求
- 学历背景：硕士及以上学历，计算机科学、软件工程或相关专业；具备大模型服务平台/推理系统/分布式系统工程化经验者优先；
- 编程能力：精通 Go/Java 至少一门语言，代码风格优良，具备良好的工程素养；
- 架构设计：深度掌握服务化架构设计，主导过复杂分布式系统架构设计与落地；熟悉资源弹性调度算法、成本优化策略及容灾方案设计；
- 基础设施：熟悉多 Region 架构设计，掌握服务网格、全链路监控、混沌工程实践；具备容量规划、故障自愈系统开发经验，熟悉 K8S 集群部署与优化；
- 前沿技术：熟悉 AIOps 技术栈，有 AI Agent 框架开发经验者优先；在高并发场景下主导过架构优化，或实现过千万级用户服务端系统者优先。 【加分项】
- 有大规模 LLM 推理服务（如 vLLM, TGI 等）优化经验者优先；
- 有开源社区贡献（如 Kubernetes, Istio, Prometheus 等）经验者优先；
- 在顶级技术会议发表过相关技术论文或拥有核心技术专利者优先；
- 具备极强的成本意识与数据驱动优化经验者优先。
