岗位职责
- MaaS 平台建设 ● 负责 MaaS 平台整体架构设计与核心模块开发； ● 建设统一模型 API Gateway，支持不同模型供应商和不同模型的统一接入； ● 支持 LLM、ASR、翻译、多模态等模型能力的统一服务化。
- 模型供给与调度 ● 接入国内外主流模型及第三方模型服务； ● 建设模型路由、负载均衡、故障切换、限流和熔断能力； ● 根据价格、性能、稳定性动态选择模型供给。
- 稳定性与高并发 ● 保障平台高并发、高可用和低延迟； ● 建设模型调用监控、告警、日志和 SLA 体系； ● 解决模型调用中的超时、限流、账号异常、供应商故障等问题。
- 成本优化 ● 建立模型调用成本分析和核算体系； ● 持续优化 Token、GPU、API 调用等成本； ● 通过多供应商调度、缓存、模型分级等方式降低整体模型成本。
- 平台产品化 ● 建设计费、配额、API Key、用户权限等平台能力； ● 支持内部业务和外部客户快速接入； ● 推动 MaaS 平台从内部基础设施逐步演进为可商业化的平台产品。
职位要求
● 3 年以上后端或基础平台研发经验； ● 熟悉 Java / Go / Python 中至少一种语言； ● 有高并发、高可用分布式系统开发经验； ● 熟悉 API Gateway、RPC、消息队列、缓存、数据库等基础技术； ● 对大模型 API、LLM Serving、模型推理服务有一定理解； ● 有云计算、AI Infra、模型平台、API 平台相关经验优先； ● 有 OpenAI、Claude、Qwen 等模型 API 接入和工程实践经验优先； ● 对系统稳定性和成本高度敏感，具备较强的问题定位和工程落地能力。
