岗位职责
探索大模型小型化(蒸馏、量化)和推理策略(投机采样等)的前沿技术,完成在快手业务场景的落地方案。 我们有什么:
- 有丰富的计算资源和mentor直接指导课题探索;
- 有大模型小型化/推理加速/MoE等最前沿的困难和挑战;
- 有大模型最全面链路的学习机会。
职位要求
- 可以实习半年以上;
- 数学, 计算机, 自动化, 电子系专业硕博生;
- 有顶会论文发表经验(CV / NLP顶会, ICLR/ICML/NIPS均可)优先;
- 有较强的自驱力和学习力, 有文本生成模型(如GPT/LLaMA等)和图像生成模型(Diffusion系列)的训练及使用或开源项目经历优先;
- 有CUDA kernel或OpenAI-Triton开发经验优先;
- 了解强化学习优先。