岗位职责
我们希望围绕大语言模型与 AIGC 模型，探索更具前瞻性的推理优化方法，并将其转化为真实场景中的性能收益。你将参与下一代推理加速技术的研究与落地，面向生成模型推理中的核心瓶颈，持续推进算法设计、效果验证与系统协同优化。 你将参与以下工作： ● 面向 LLM 与 AIGC 场景，研究生成模型推理加速的关键问题 ● 探索前沿生成范式，以及基于后训练的模型架构演进 ● 探索SOTA加速方案，如投机、sparse attention、LLM/Diffusion distillation等技术 ● 与工程及基础设施团队协同，探索框架+算法+算子一体的更大scope的加速方案 ● 跟踪相关领域前沿进展，推动新方法的快速评估与应用
职位要求
● 在生成模型、推理优化或高性能计算相关方向具备扎实积累 ● 对 LLM 或 AIGC 模型推理过程有较深入理解，具备相关优化实践经验 ● 具备良好的算法分析能力和工程实现能力，能够独立推动方案设计与验证 ● 具备良好的协作能力和技术推动力，能够与多角色团队共同完成复杂项目落地 加分项 ● 在推理加速、模型压缩或生成式模型优化方向有代表性成果 ● 具备从研究到落地的完整项目经验 ● 有关键技术方向主导经验者优先
