岗位职责
围绕 Agent Harness 与推理系统的协同开展分析和优化。通过观测不同 Agent 的请求模式、上下文变化、工具调用和执行流程,识别推理侧的优化机会。结合 Harness 特性,探索缓存复用、缓存生命周期管理、请求调度和上下文组织等方案,提升 Agent 的执行效率与任务效果。
职位要求
- 计算机或相关专业本科及以上学历,具备扎实的编程能力,熟练使用 Python,具备系统开发和数据分析能力。
- 熟悉大模型推理的基本原理,了解 KV Cache、Prefix Cache、请求调度等机制,有推理框架使用或开发经验。
- 熟悉 Agent 的基本执行流程,理解上下文管理、工具调用、多轮交互等 Harness 行为及其对推理负载的影响。
- 能够采集和分析 Agent 执行轨迹与推理指标,识别重复计算、缓存失效、上下文增长和等待时间等问题。
- 能够基于分析结果实现优化原型,并通过实验评估缓存命中率、响应时延、资源开销及任务效果的变化。
- 有 Agent 框架开发、推理缓存优化、性能分析或可观测性系统建设经验者优先。