岗位职责
- 负责 Codewave 智能开发平台 AI 网关与流量网关的架构设计、核心功能开发与持续演进,包括:多模型统一接入层(OpenAI/Anthropic/ 国产大模型等)的协议适配与转换、请求路由与智能调度、流式响应(SSE/WebSocket)的转发与处理;
- 负责流量网关能力建设:南北向 / 东西向流量的统一接入与治理,路由与灰度发布、负载均衡、鉴权认证与安全防护、限流熔断、流量镜像与回放等,保障平台核心业务的稳定接入与流量安全;
- 负责平台核心业务开发:参与 Codewave 智能开发平台核心业务链路(如租户、应用生命周期管理,运营等)的架构设计与研发,推动平台能力的产品化落地与持续迭代;
- 负责网关核心能力建设:Token 计量与计费、配额管理、多级限流、API Key 全生命周期管理、语义 / 结果缓存、模型故障降级与 Failover 机制;
- 负责网关可观测性体系建设:全链路调用追踪、监控告警、成本分析与调用质量评估;
- 攻关高并发、长连接、低延迟场景下的性能与稳定性难题,保障海量 LLM 调用下的服务可用性。
职位要求
- 计算机及相关专业本科以上学历,5 年以上服务端开发经验(特别优秀的 AI 网关经验可适当放宽);
- 熟练掌握 Java 开发,熟悉常用设计模式,能利用 Arthas、JProfiler、MAT 等工具对程序进行跟踪诊断;
- 理解 JVM 内存模型、编译机制、类加载机制,具备 JVM 调优实战经验;
- 深入理解 Netty/Reactor 响应式编程模型,有高并发网络编程与 SSE 流式传输的实战经验;熟悉k8s容器化技术
- 熟悉主流大模型 API 生态(OpenAI/Anthropic/ 国产大模型),理解 Chat Completions、Function Calling、流式输出、上下文管理等机制;
- 掌握 SpringBoot 等开发框架,熟悉微服务架构与分布式系统设计;
- 熟悉 Kubernetes 容器编排体系,有生产环境 K8s 使用经验(Deployment/Service/Ingress/Helm 等),理解云原生架构下的服务治理与弹性伸缩; 加分项 有中大型 AI 网关 / LLM 中台 / AI Infra 产品(网关方向)的设计和开发经验,熟悉 Kong AI Gateway、Higress、LiteLLM、OneAPI 等开源方案者优先; 有流量网关 / API 网关(如 Nginx、Kong、Higress、Istio/Service Mesh 等)的落地与治理经验者优先; 有智能开发平台(AI Coding,如 Cursor、Copilot 类产品)后端研发经验者优先