岗位职责
】
- 大模型服务和平台的稳定性保障与体系建设:负责大模型相关核心业务系统和模型服务的稳定性建设工作,提升业务可用性与可靠性;
- 高并发流量治理:高并发场景下的流量治理方案设计与实施,包括熔断、限流、降级等容灾策略,确保业务弹性与鲁棒性;
- GPU算力资源规划与运营管理:包含不限于优化GPU资源配置模型,平衡计算性能与成本,推动资源采购决策与部署策略落地,优化GPU资源配置模型,平衡计算性能与成本,推动资源采购决策与部署策略落地;
- 运维流程优化和自动化:推动运维自动化与平台化建设,提升研发效率;
- 架构高可用建设:业务系统稳定性架构方案的设计与实施,推动高可用架构落地,规避系统性风险;
- 应急响应:响应系统故障,快速诊断并恢复服务,分析原因并提出预防性改进措施;
职位要求
- 计算机科学、软件工程或相关领域本科及以上学历,硕士优先。具备5年以上的云服务或站点稳定性工作经验,有AI Infra经验者优先;
- 熟悉AI基础设施架构、服务器硬件(如CPU/GPU芯片微架构)、网络协议(TCP/IP、RDMA、InfiniBand),对公共云服务平台(如 阿里云、AWS、Azure等)有深入理解和实战经验;
- 熟练掌握Kubernetes及云原生架构及技术原理,有大规模生产集群的部署、调优及故障解决经验;
- 对于AIGC或LLM有了解和实际开发经验者优先;有开源生态建设相关经验者优先;
- 熟悉至少一种编程语言(如Golang、Python、Shell),有AI Native的相关经验和项目经历者优先;
- 具备优秀的逻辑分析能力与系统性思维,对技术敏感度高,有强烈的责任心和抗压能力,适应快节奏业务场景,具备优秀的沟通能力、执行力和解决问题的能力。 加分项:
- 3年以上基础设施运维或资源管理经验,有AI基础设施、服务器管理或高性能网络经验优先,有研发背景优先;
- 有GPU资源调度系统、GPU服务稳定性工作或NVIDIA GPU架构与CUDA经验者优先;
- 有云原生技术(如Serverless、Service Mesh)落地经验或开源项目贡献者优先。