岗位职责
- 负责核心推理算子的设计、开发与优化，涵盖 Transformer 系列（Attention、FeedForward 等）、卷积、池化等关键算子，支撑模型端到端推理性能提升；
- 针对 CPU（x86/ARM）、GPU（CUDA/TensorRT）、NPU 等异构硬件平台，进行算子适配与深度优化，解决计算效率、内存占用、 latency 等核心问题；
- 参与推理引擎架构设计，优化算子调度策略、内存管理机制，提升模型推理的并发度与资源利用率；
- 调研业界前沿推理优化技术（如算子融合、量化压缩、稀疏化、动态批处理等），并落地到实际产品中，持续迭代优化推理性能；
- 与模型算法团队、工程架构团队紧密协作，理解模型特性与业务场景需求，提供高效、稳定的推理算子解决方案；
- 负责算子性能测试、问题定位与调优，输出性能报告，保障推理系统的稳定性与可靠性。
职位要求
- 本科及以上学历，计算机科学、电子工程、软件工程等相关专业；
- 精通 C/C++/CUDA 编程，深入理解计算机体系结构（CPU/GPU 缓存、指令集、并行计算原理），具备扎实的算法与数据结构基础；
- 熟悉至少一种主流深度学习框架（PyTorch/TensorFlow/MXNet）的底层算子实现机制，有大模型（LLaMA、GPT、BERT 等）推理优化经验者优先；
- 掌握至少一种异构硬件平台的算子开发与优化技巧： GPU 方向：精通 CUDA 编程、TensorRT 优化、cuDNN/cuBLAS 使用，具备 kernel 调优经验； CPU 方向：熟悉 SIMD 指令集（AVX2/AVX512）、OpenMP 并行编程，有 BLAS/LAPACK 优化经验； NPU 方向：有昇腾 / 寒武纪等芯片算子开发经验者优先；
- 熟悉大模型推理关键技术，如量化（INT8/INT4）、稀疏化、算子融合、动态批处理、推理加速框架（vLLM、TensorRT-LLM、Triton）等，有相关项目落地经验者优先；
- 具备良好的问题分析与解决能力，较强的沟通协作与技术攻坚能力，对新技术有强烈的探索欲。
