岗位职责
- 负责AI平台架构设计和AI工程化技术实现；
- 通过AI基础设施和软硬件协同优化来提升公司AI模型训练和推理的效率；
- 负责云侧或端侧大模型和小模型推理服务开发、性能优化、上线部署等工作。
职位要求
- 5年以上相关开发经验，熟悉Go/C++/Python/Java等至少两门语言；
- 有TensorFlow、Pytorch使用或者优化经验，有机器学习平台开发经验优先；
- 了解GPU、CUDA、神经网络、RAG等技术，有大模型工程优化经验优先；
- 对AI底层硬软件基础设施，AI工程化和大模型推理优化感兴趣；
- 了解transformer的结构，了解模型训练、微调和推理的过程和原理；
- 有以下一项或多项技术能力者优先： 1) 有GPU、NPU、ARM、或其他AI芯片等平台上AI落地实践经验； 2）熟悉并行计算和分布式计算技术，有 MPI、OpenMP、CUDA 等编程经验，或有PTX、汇编优化方法； 3) 熟悉模型训练框架如Deepspeed、Megatron，pytorch等； 4) 熟悉TensorRT-LLM、vLLM、sglang等任一推理框架，有实际操作经验； 5) 熟悉多层次的软件优化经验，如模型剪枝/量化/压缩、分布式优化（PD分离）、存储优化、kv-cache优化、动态Batching、IO优化、算子/指令集优化等。
