岗位职责
- AI模型智能路由系统：设计并实现多策略AI模型路由引擎，实现请求到模型的最优匹配，保证低延迟决策，并确保路由决策透明可审计
- AI服务计费系统：构建多层级计费引擎，实现精细化成本核算与防滥用机制
- 基础设施与可靠性：微服务架构部署与优化、缓存与熔断机制设计、数据库事务保障、高可用架构与故障自动切换
- AI模型评测与价格数据管道：主流AI模型能力评测数据整合、平台用户反馈聚合、实时价格缓存与同步
- 合规路由实现：地域访问排除规则、IP拦截、审计日志可导出
- 性能工程：冷启动优化、压测验证、在线学习与实时统计
职位要求
- AI模型认知：深入理解主流LLM模型的能力边界、成本结构、API协议，对模型选型和性价比评估有实战经验；
- 多模型聚合架构：理解API网关/代理/路由模式，对模型路由、负载均衡、故障转移、成本优化有工程经验或深度认知；
- 精通 Go 或 Python 后端开发，熟悉 Next.js/React 前端开发；能独立完成从API设计、前端实现到部署上线的全链路开发；
- 有低延迟决策系统经验（推荐/路由/调度/竞价）；精通 Redis + PostgreSQL；理解在线学习、实时统计等基础算法；
- 有SaaS计费/订阅/支付系统相关经验/
- 有云原生/容器化部署与运维经验。 加分项：
- 有AI模型路由/模型调度/算力调度相关经验；
- 有推荐系统/广告引擎/电商交易系统经验
- 有多模型API网关/LLM代理开发经验 符合京东价值观：客户为先、创新、拼搏、担当、感恩、诚信。
