训练推理一体化存储研发工程师 - Data-抖音/直播/电商/剪映

Data-架构团队是字节跳动的核心技术引擎，为抖音、今日头条、番茄小说、剪映等旗舰产品构建大规模、高可用、可持续演进的推荐、搜索与广告工程架构。团队深耕推荐架构、搜索架构、广告架构、机器学习基础设施、在线服务架构与稳定性工程等领域，在千亿乃至万亿级数据规模、超大流量与复杂业务逻辑的真实工程挑战中，持续以技术创新驱动人与信息、人与服务的高效连接，服务全球数亿用户。 目前，团队正积极探索搜广推架构下一代范式：从大规模在线预估框架到生成式推荐大模型的训练、后训练与端到端推理，从分布式异步图引擎、统一数据编排到平台化业务策略与 Infra Research，让大模型真正落地于亿级流量的真实在线系统。欢迎热爱分布式、AI 大模型、搜广推架构的同学加入。

1. 负责设计和实现面向推荐、广告大模型推理和训练的多层级存储系统，综合利用显存、本地内存、分布式内存、磁盘、远端大容量存储系统（HDFS）等多种介质进行数据的存储和迁移管理，实现近计算缓存+远端大容量存储的一体化分级系统；
2. 负责优化推荐大模型KV Cache命中率，从推理框架、流量调度、多级缓存等多个系统维度入手定制化优化策略，和业务方协作完成端到端推理性能加速；
3. 负责建设搜广推通用用户行为数据存储，设计和实现离在线EB级别行为数据的统一存储、IO、近端Cache解决方案，支撑EB级别训练和推理数据，提供高可用保障，在离在线混合负载下，高吞吐和低延时能力的分布式存储系统。