岗位职责
专注于大规模分布式文生视频/文生图推理系统的研究、探索和开发,具体职责包括: 探索高性能、可扩展的分布式 DiT 推理引擎,支持大规模文生视频/文生图场景的高效部署; 深入优化高性能算子、运行时、分布式策略等,打造业界领先的DiT推理引擎; 分析现有引擎和典型负载的性能瓶颈,提出并实现创新的优化技术; 针对文生视频/文生图等重点场景,构建业界领先的优化解决方案。
职位要求
扎实的工程能力,优良的编程风格,熟悉Python/C++语言和常用设计模式,具备复杂系统的设计、开发、调试能力; 熟悉计算机体系结构基础知识,有扎实的高性能计算(GPU)、或推理框架、或模型算法优化(量化/稀疏等)方面的经验; 熟悉分布式系统、并行计算、通信优化等相关技术,具备大规模系统性能调优经验。 优良的沟通表达能力、团队合作意识和经验;具备快速学习的能力,以及深入钻研技术问题的耐心; 加分项 有突出的学术背景和创新研究能力; 对DiT、文生视频/文生图等重点场景的系统优化或前沿算法有深入务实的经验; 具有GPU高性能Kernel开发和优化经验; 熟悉序列并行、数据并行等分布式训练/推理策略,具备通信开销评估与建模经验; 有计算与通信重叠技术、动态策略优化等相关实践经验。