岗位职责
- 负责大模型的工程落地，对业务需求和功能模块进行合理的工程抽象，提高大模型业务的上线和迭代效率；
- 负责大模型推理和训练过程的架构设计和技术选型，打造优秀的大模型应用系统，提升大模型性能和资源效率；
- 负责大模型前沿技术的调研，评测相关的模型指标和技术方案；
- 负责大模型的业务探索，与相关团队紧密协作，提升大模型的业务收益。
职位要求
- 扎实的编程技术，熟悉python，并且掌握c++/java一门编程语言；
- 熟悉至少一个大模型应用或者推理框架，如SGLang，VLLM，Langchain，Haystack，LmDeploy等等；
- 熟悉至少一个深度学习框架，如Jax/Torch/DeepSpeed/tensorflow/Merlin等等；
- 熟悉大模型常用的工程技术，如DP/TP/PP/Zero/PagedAttention/PD分离/KV Cache/梯度压缩/AllReduce等等；
- 了解大模型常用的硬件特性和体系结构，了解业界大模型硬件和软件加速方案，如NVLink，RDMA，混合精度等等；
- 了解大模型基本的算法工具及其工程优化方法，如Transformer/Moe等等；
- 了解大模型常用的应用技术，如模型微调，RAG，提示词工程等等；
- 有良好的沟通和协作能力； 加分项
- 有大模型业务落地经验的优先；
- 有大规模分布式训练过程优化经验的优先；
- 有深度学习框架或者大模型应用框架开发经验的优先；
- 熟悉算子深度定制优化的优先；
- 熟悉cuda编程/高性能编程/高可用高并发编程的优先；
- 阅读过常见开源大模型源码的优先。
