岗位职责
大模型架构优化探索, 涉及训练和推理的各类算法和工程策略探索落地,算法和工程协同设计。 参与美团基座大模型项目,包含但不限于大模型高效架构设计探索(高效Attention,MoE架构等),预/后训练调优策略,投机推理策略,模型轻量化(剪枝,量化,稀疏,蒸馏,结构搜索等) ,Agentic优化策略和应用等等方向。 需要在上述方向做出创新性算法工程产出,并在公司业务场景中落地应用,创造业务价值。
- 公司具备丰富的研发经验和技术积累,提供广阔的发展空间。
- 参与大模型架构优化先进方案的研发,解决行业内具有挑战性的技术问题。
职位要求
计算机及其他相关专业,硕博优先。 熟悉一些常用的深度学习框架和大规模训推框架(比如megatron,verl,vllm,sglang等等),在大模型上有训练和推理算法工程优化的经验的优先。 熟悉机器学习和深度学习理论,具备扎实的编程能力,熟悉常见的主流大模型架构的优先。 有顶会论文发表,特别是模型架构优化相关的算法或工程论文优先。 具备良好的团队合作精神和沟通能力。