岗位职责
从推理系统出发,探索 RSI的实现方式。参与构建运行数据采集、问题分析、策略优化和效果验证的闭环,让系统能够基于实际运行反馈持续改进。结合模型与 Agent 的执行特点,优化推理效率、任务效果和计算成本,推动实验方案在真实场景中落地。
职位要求
- 计算机或相关专业本科及以上学历,具备扎实的编程能力,熟练使用 Python,掌握 C++、Go 等语言之一。
- 具备大模型推理系统开发或优化经验,熟悉 vLLM、SGLang 等推理框架,理解请求调度、Batching、KV Cache 等基本机制。
- 理解大模型与 Agent 的基本工作流程,能够结合运行数据和任务结果,定位效果或性能问题,并提出可验证的优化方案。
- 具备实验设计和评测能力,能够搭建自动化实验与反馈流程,评估优化对任务成功率、时延、吞吐和成本的影响。
- 能够独立推进模块开发与问题排查,与算法、基础设施团队协作完成方案落地。
- 有自动调优、Agent 反馈闭环、推理策略优化或强化学习相关经验者优先。