岗位职责
- 负责推理系统分级存储架构建设：设计并实现 KVCache 在 HBM / DRAM / SSD / 分布式持久化存储各层级间的放置、流动与淘汰策略，平衡命中率、延迟与成本；
- 负责类 分布式持久化存储系统设计与研发，支撑 KVCache 卸载回灌、模型权重与 Checkpoint 读写等场景，做到高吞吐、低长尾延迟、可水平扩展；
- 负责分布式 KVCache 池化存储的元数据高可用能力建设，保障可用性 SLO；
- 优化端到端 I/O 路径，结合 RDMA、NVMe SSD、GPUDirect、零拷贝等技术降低 H2D/D2H 传输开销，并与 vLLM / SGLang 等推理框架协同落地 KVCache offload 与预取；
- 保障线上数据可靠性与稳定性，跟进存算分离等前沿方向。
职位要求
- 计算机相关专业硕士及以上学历，5 年以上分布式存储或底层系统研发经验；
- 有大规模、生产级分布式存储系统（文件/对象/块存储或 KVCache 存储）从零到一的架构设计与落地经验；
- 精通 C++、Rust或Python，系统编程功底扎实，具备并行计算、内存管理与性能调优的实战能力；
- 深入理解分布式系统核心技术：一致性协议、副本与纠删码、元数据服务、故障恢复与数据均衡；
- 熟悉现代存储与网络栈：NVMe SSD、io_uring/SPDK、RDMA/RoCE、NVMe-oF、GPUDirect Storage；
- 加分项：熟悉大模型推理系统，理解 KVCache、Prefix Caching、PD 分离等机制，熟悉 vLLM / SGLang ；
- 加分项：熟悉 3FS、Mooncake、LMCache、Ceph、DAOS 等系统；有 AI 训练/推理场景 I/O 优化经验；熟悉硬件底层架构或有相关开源贡献。
