岗位职责
- 参与 MaaS(Model as a Service)推理平台核心系统的设计与建设,面向大规模模型服务场景,打造高性能、低延迟、高吞吐的推理基础设施;
- 参与 GPU / CPU / 网络等异构算力资源的高效调度系统设计,构建面向大模型推理任务的资源编排与调度能力,实现资源利用率与服务质量的最优平衡;
- 设计并实现面向 LLM 推理场景的关键系统组件,包括请求调度、批处理优化、推理并行策略、缓存与上下文管理等核心机制;
- 参与构建大规模模型服务平台的系统架构,包括模型部署、服务治理、流量调度、容量管理与自动扩缩容等核心能力;
- 通过系统架构优化与工程创新,持续提升推理系统在 性能、稳定性与成本效率 方面的表现,支撑大规模 AI 应用的稳定运行。
职位要求
- 计算机科学相关专业研究生及以上学历,具备扎实的计算机基础知识;
- 具备良好的系统设计与工程能力,熟悉至少一种主流编程语言(如 C++ / Go / Java / Python / Rust),能够完成复杂系统模块的设计与实现;
- 熟悉 Linux 系统开发环境,具备良好的工程实践能力,能够进行系统调优、性能分析与问题定位;
- 对分布式系统、资源调度系统或云原生平台有一定理解,例如 Kubernetes、容器调度、任务调度或服务编排机制;
- 对 AI 基础设施或大模型推理系统有强烈兴趣,具备良好的学习能力与技术探索精神;
- 有系统领域顶会论文、ACM/ICPC国际奖项、主流开源项目活跃贡献者是加分项。