岗位职责
- 参与抖音&国际化短视频搜索场景下机器学习和深度学习架构的设计与实现;
- 关注文本相关性模型、多模态、Wide&Deep模型、LLM模型等深度学习模型在搜索场景中的性能和成本优化;
- 提高模型训练效率,加速推理性能,优化GPU吞吐;
- 设计和开发高性能算子库,研究最新的GPU计算技术和优化方法,充分利用GPU并行计算能力,支持各种模型在不同硬件上的构建和部署。
职位要求
- 掌握扎实的计算机基础知识,深入理解数据结构、算法和操作系统知识;
- 有强烈的求知欲,快速学习和沟通能力;
- 编程能力扎实,有良好的编程习惯。 加分项:
- 熟悉主流的深度学习框架(Pytorch、Tensorflow);
- 熟悉主流高性能并行编程技术,有GPU编程经验(CUDA或Triton);
- 熟悉vLLM,TRT-LLM等大模型推理框架,熟悉大模型并发推理原理;
- 熟悉FSDP、DeepSpeed、Megatron等业界主流分布框架的使用和原理。