岗位职责
- 在线推理服务开发：负责Seedance、Seedream、Seed3D等SOTA模型在线Serving系统的设计与开发，构建高并发、低延迟、高可用的推理服务，支撑多模态、视频生成等模型的线上实时推理；
- 推理框架研发：参与推理框架功能开发，包括请求调度、模型并行(TP/PP)、多模型混合部署等能力建设；
- 服务架构演进：设计并落地推理服务的核心架构，涵盖流量调度、负载均衡、弹性扩缩容等，保障大规模GPU集群上的服务稳定性；
- 性能与效率优化：针对端到端推理链路进行系统级优化，提升GPU利用率、提升服务吞吐；
- 工程质量与稳定性：主导推理服务的可观测性建设（监控、告警、链路追踪），参与线上问题诊断与专项治理，持续提升系统稳定性和运维效率。
职位要求
- 计算机相关专业本科及以上学历，精通Go/Python/C++中至少一门，具备良好的系统设计与编码能力；
- 扎实的后端开发基础：熟悉高并发服务架构设计，有RPC框架、异步并发、连接池、限流熔断等实战经验；
- 熟悉分布式系统核心概念：负载均衡、服务发现、消息队列、分布式缓存等，能独立设计和落地高可用服务；
- 具备性能分析与调优意识：熟悉Profiling工具，有系统级性能瓶颈定位和优化经验；
- 对大模型推理服务有浓厚兴趣，具备较强的自驱力、学习能力和跨团队协作能力。 加分项：
- 有大模型在线推理服务实战经验；
- 了解主流模型架构(Transformer/DiT/MoE)及推理优化技术；
- 有在线服务研发经验，处理过GPU集群调度问题；
- 有推理框架插件开发或模型Serving工具链建设经验。
