岗位职责
- 负责大模型网关核心研发与架构设计,完成需求分析、功能开发、迭代优化,搭建高可用、高性能、可扩展的大模型统一接入管控平台,支撑业务侧模型稳定调用。
- 设计并实现网关核心能力,涵盖多模型统一适配、路由调度、负载均衡、限流熔断、权限鉴权、协议转换等功能,实现各类大模型服务的标准化接入与集中管理。
- 优化网关性能与调用体验,针对模型推理耗时、并发承载能力、响应延迟等指标做专项优化,完善缓存与异步处理机制,提升系统吞吐量与稳定性,保障高并发场景平稳运行。
- 整合上下游服务与外部接口,对接私有化模型、第三方模型API、业务系统、监控平台等,打通模型调用全链路,搭建日志统计、用量核算、监控告警等配套模块。
- 参与技术评审与技术攻坚,解决研发和上线中的核心技术问题,保障系统稳定性、安全性与可扩展性,跟进行业前沿技术,推动网关持续迭代升级。
职位要求
- 本科及以上学历,计算机相关专业,具备扎实的计算机基础与分布式系统基础知识。
- 精通至少一种主流后端编程语言(Java/Go/Python优先),编码功底扎实,熟悉常用设计模式。
- 熟悉网关路由、限流、鉴权、负载均衡等核心逻辑,具备API网关开发实战经验优先
- 熟悉大模型技术生态,了解主流大模型调用机制与接口规范,有模型接入、调度管控相关经验优先。
- 掌握高并发、高可用系统开发技术,熟悉微服务、缓存、异步通信、分布式限流等常用方案,具备线上问题排查与性能优化能力。
- 具备良好的跨团队协作能力,能与产品、测试等角色高效配合,快速推进项目落地,具备技术攻坚意识。