岗位职责
- 负责模型部署与运行性能优化：在本地或云端环境中配置大模型，搭建推理服务接口，并持续进行性能调优。
- 负责开源大模型的微调与训练：使用业务数据对模型进行微调，并应用LoRA、P-Tuning、Prompt微调等轻量化训练技术，以适应特定应用场景。
- 主导大模型推理部署的全链路优化：包括模型压缩（量化、剪枝）、动态批处理、KV Cache优化等，确保模型在生产环境中稳定高效运行。
- 构建并管理高质量的训练数据：负责数据的收集、清洗、格式化及标注工作，为模型训练提供可靠的数据支持。
- 跟踪技术前沿并进行新技术预研：关注开源社区动态，评估并引入新技术、新方法，为产品方向提供建设性意见。
- 模型效果评估与持续迭代：构建评估体系，收集反馈，不断改进微调策略和模型输出质量。
职位要求
学历要求： 计算机科学、人工智能等相关专业，硕士及以上学历 专业要求：
- 具备大模型相关理论及专业知识。
- 精通PyTorch等主流深度学习框架，熟悉DeepSpeed、Megatron-LM等大规模模型训练工具，并掌握Transformer架构及Flash Attention等核心技术栈。
- 拥有大模型的训练、微调、部署项目经验，熟练掌握多种微调技术和模型优化手段。
- 熟悉Docker、K8s等容器化技术，具备CUDA/TPU编程基础，能够完成模型的服务化部署和底层性能调优。
- 熟悉数据清洗和处理流程，具备使用Python等工具构建高质量数据集的能力。
- 对技术有热情，具备良好的问题解决能力、团队合作意识和沟通能力，能快速响应业务需求。 语言要求：英文文献阅读能力
