部门介绍
国际商业化产品与技术团队支持字节跳动国际短视频业务的广告产品与变现技术，我们负责end2end的大型广告系统建设，为客户提供商业推广方式与方案，覆盖字节跳动所有国际化用户产品，目前已在美国、加拿大、新加坡、欧洲、中东等国家和区域开展业务。我们的愿景是建立服务全球广告主的综合数字化营销服务平台，打造一体化广告平台，建联广告主、创作者及用户。在这里你将有机会开阔自己的国际化视野，接触到全球领先的商业产品架构、模型和算法，并有机会参与并推动互联网广告行业的创新和变革。 日常实习：面向全体在校生，为符合岗位要求的同学提供为期3个月及以上的项目实践机会。
- 负责大型多模态模型的分布式学习训练框架与平台搭建，优化与开发；
- 面向多模态大模型训练场景，对算子进行端到端性能分析与调优，持续挖掘吞吐、延迟、显存利用率等指标的优化空间；
- 参与或主导3D并行（Data/Tensor/Pipeline Parallel等）训练体系下的算子与通信方案设计与优化；
- 与分布式训练、系统、模型算法团队密切协作，共同提升大规模训练任务的整体效率与稳定性；
- 跟踪业界前沿的硬件架构、系统软件（GPU架构、网络、编译器、库等）与软硬件结合创新技术，将最新技术转化为实际性能收益。
岗位职责
招聘官网暂未提供完整岗位职责，请前往官网核实。
职位要求
- 本科及以上学历在读，计算机、软件工程、数学、电子信息、自动化等相关专业；
- 硕博优先，能够保证每周四天，半年以上实习时间；熟悉GPU架构&CUDA编程、算子融合优化，并行计算原理，对GPU体系结构（SM、Warp、Memory Hierarchy、Occupancy等）有较深入理解；
- 熟悉DeepSpeed、Megatron-Core等分布式训练框架，具备模型如MoE等（千卡级别以上）多种并行训练策略实战经验；
- 熟悉vLLM、SGLang等大模型推理框架，有实际性能调优经验（如KV Cache优化、动态批处理、Attention算子定制等）；
- 熟悉大模型强化学习的工程技术，比如OpenRLHF/verl等框架。 加分项
- 有分布式训练实践经验（千卡GPU或更大规模）；
- 对深度学习模型结构，尤其是MoE，视频生成模型等模型原理有一定了解（如Transformer、DiT、训练技巧、优化器、并行算法等），能与算法同学就结构与算子设计进行深入讨论；
- 有参加过编程竞赛并取得优异成绩的经历；
- 有高性能计算（HPC）、编译器优化、系统级性能调优相关经验或Paper/开源项目贡献；
- 具备Vibe coding实操经验，熟练使用claude code/Codex/cursor等Agent工具。
