岗位职责
- 负责面向AI与Agent的基础软件研发与优化,支撑阿里云客户及内部业务的相关需求。
- 跟踪业界最新研究成果和技术动态,结合硬件架构、模型结构、AI框架、高速互联、模型分发、Agent运行时等前沿进展,负责相关技术的调研论证与系统原型探索。
- 针对大模型推理与Agent执行场景,设计和开发CPU/GPU异构计算与操作系统内核级优化技术,涵盖内存与显存管理、快照与恢复、数据传输与模型分发加载,提升服务启动效率、弹性恢复速度与运行性能。
- 设计和开发Agent运行时与工具执行基础设施,涵盖工具调用链路、长程任务状态与记忆管理、运行时可观测性等,提升Agent执行的效率、稳定性与安全性。
- 通过跨层协同优化AI推理框架与KVCache,加速模型训练与推理;与业务团队紧密合作,推动相关技术的规模化落地;在技术方向上承担规划与攻坚,牵引方案演进并带动团队技术成长。
职位要求
* 计算机科学、软件工程或相关专业,具备扎实的计算机系统基础理论知识,丰富的C/C++/Rust/Python开发经验。 * 对如下一个或多个领域有经验:
- 对CUDA编程、多线程并发处理、异构计算平台有深入理解和实践经验,熟悉操作系统内核层面的异构计算支持(如GPU驱动、内核态异构调度、统一内存管理),以及CPU/GPU异构环境下的内存与显存管理、换入换出、快照与恢复、数据传输优化(如GDR/RDMA、长任务状态持久化);
- 有主流AI推理框架(vLLM/SGLang)开发经验,熟悉KVCache系统(如Mooncake/LMCache)及推理系统端到端性能优化,有相关项目研发或开源社区贡献经验优先;
- 有模型分发与加载优化经验,熟悉模型权重分发、P2P分发、模型缓存、按需加载,具备支撑模型高效分发的存储IO、网络传输等系统级优化经验;
- 有Agent运行时与工具执行基础设施开发经验,涵盖工具调用/函数执行链路、MCP等工具协议、记忆/状态管理,以及运行时可观测性、稳定性与安全性(故障恢复、性能剖析)。 * 有强烈技术热情和好奇心,自驱力和学习力强;具备良好的分析与解决问题的能力、沟通以及团队合作能力;喜欢挑战性的技术研发工作,善于攻坚克难,有创新热情,积极乐观,坚韧抗压,结果导向,能够持续推动问题的解决和突破。