岗位职责
- 负责AI硬件的云端GPU和XPU的推理引擎日常研发;
- 跟进支撑智能业务,整合团队资源,协调外部团队,推动业务上线;
- 探索计算优化和芯片异构前沿技术,比如:GPU,XPU等,跟进前沿加速技术:flash attention,paged attention,MTP。
职位要求
- 计算机基础扎实:Linux操作系统,计算机网络,数据结果&算法,数据库等;
- 精通CUDA和C/C++/Python等编程语言,熟悉常用设计模式;
- 良好的表达、组织、沟通和协作能力;
- 对技术有激情,喜欢钻研,良好的学习能力。 加分项:
- 熟悉VLLM,SGLang,TensorRT等推理服务引擎;
- 熟悉CUDA,Triton等开发框架;
- 熟悉各种大规模高性能服务技术。