训练推理一体化存储研发高级工程师-Data

推荐架构团队支撑字节跳动旗下多款APP产品，如抖音、今日头条、番茄小说、西瓜视频、剪映等推荐系统架构的设计和开发，保障系统的稳定和高可用，致力于抽象系统通用组件和服务，建设推荐中台、数据中台；关于在线服务，在这里你有机会参与大规模机器学习在线预估框架的研发与优化，也有机会参与模型训练与调度等相关问题的研究与突破，解决系统瓶颈，降低成本开销；如你对大数据感兴趣，在这里也有机会参与通用实时计算系统的开发、构建统一的推荐特征中台，为推荐业务实现先进的消重、计数、特征服务等；我们期待热爱技术的你加入，一起创造更多可能。

1. 负责设计和实现面向推荐/广告大模型推理和训练的多层级存储系统，综合利用显存、本地内存、分布式内存/磁盘、远端大容量存储系统（HDFS）等多种介质进行数据的存储和迁移管理，实现近计算缓存和远端大容量存储的一体化分级系统；
2. 负责优化推荐大模型KV Cache命中率，从推理框架、流量调度、多级缓存等多个系统维度入手定制化优化策略，和业务方协作完成端到端推理性能加速；
3. 负责建设搜广推通用用户行为数据存储，设计和实现离在线EB级别行为数据的统一存储、IO、近端Cache解决方案，支撑EB级别训练和推理数据，提供高可用保障，在离在线混合负载下，高吞吐和低延时能力的分布式存储系统。