岗位职责
- 参与设计和实现AI芯片上的推理引擎SDK，包括代码生成、图优化、算子实现/优化以及系统运行时的方面；
- 参与设计和实现AI芯片上的大语言模型推理框架。进行功能实现和性能优化。
职位要求
- 具有良好的算法基础及软件编程能力， 熟悉C或者C++；
- 学习能力强，对新事物保有好奇心，并能快速适应新环境；
- 良好的沟通能力和团队协同能力；能与他人合作，共同完成目标；
- 有AI编译或者推理引擎相关经验的优先，熟悉MLIR/TVM/TensorRT等推理相关软件栈的优先；
- 有大模型推理相关经验的优先，熟悉vLLM等相关推理框架的优先；
- 有cuda kernel优化经验的优先，熟悉Flash Attention等kernel优化算法的优先。
