岗位职责
- 负责Agent Gateway系统设计与研发,涵盖统一接入层、请求路由、模型适配、协议转换、流式返回、会话管理等模块;
- 负责模型与Agent调用治理,包括路由、Fallback、灰度、熔断、限流降级,以及基于场景、成本、质量、延迟的动态调度策略;
- 负责安全、权限与合规能力建设,包括鉴权授权、租户隔离、请求级/用户级/工具级权限治理,保障企业级调用链路安全;
- 负责可观测性与运维诊断体系建设,包括链路追踪、日志、Metrics、Prompt/Tool调用记录,搭建质量、成本、延迟、成功率监控体系;
- 负责平台工程化、开发者体验优化及技术演进,包括SDK、API、配置平台、调试工具建设,降低业务接入成本,推动Agent基础设施标准化;跟进LLM Gateway、MCP、Agent Runtime、PromptOps、AIOps等方向,持续提升高并发、高可用、低延迟、成本控制能力。
职位要求
- 计算机相关专业,本科及以上学历,2年以上后端研发工作经验;
- 具备扎实的计算机理论基础,熟练掌握至少一种编程语言(如Go、C、C++等);
- 熟悉TCP/IP等常用网络协议,拥有丰富的网络编程、故障定位及性能调优经验;
- 对网络系统和AI技术怀有持续的好奇心与钻研精神,有意愿在该领域长期深入发展;
- 乐于从事具有挑战性的工作,具备较强的自驱能力;
- 具备独立思考与系统化解决问题的能力,能够从0到1推动复杂项目落地。 加分项
- 有API Gateway/Service Mesh/统一接入层/模型网关相关系统建设经验;
- 有LLM应用/Agent平台/MCP/RAG/模型推理服务/模型路由实践经验。