岗位职责
- 负责大规模 AI 推理系统的数据化与可观测性能力建设，设计和开发统一的数据采集、处理、存储与分析平台，支持 Metrics、Logs、Traces、Events、Profiles 等多种运行数据的低成本采集和高效使用。
- 深入推理引擎和平台的运行机制，建设端到端请求追踪、性能分析和问题诊断能力，实现模型请求、推理执行、资源使用及系统运行状态的关联分析，提升研发效率和线上服务质量。
- 建设自动化 Benchmark、性能分析和回归检测能力，结合理论性能模型、压测数据和线上实际运行数据，分析系统性能差异，识别性能瓶颈和优化机会，支持新模型、新硬件和新推理引擎的快速适配与性能优化。
- 基于真实推理 Workload 和运行数据，建立请求特征、实际执行行为与资源消耗之间的量化分析能力，研究 Prefill/Decode、KV Cache、请求调度等关键机制对性能和成本的影响，支持推理系统的容量规划、配置优化和资源效率提升。
- 建设推理系统的可视化分析和自助诊断工具，帮助研发和运维人员快速发现、定位和分析系统问题；探索利用 AI Agent 实现自动化问题分析、性能诊断和优化建议，持续提升系统研发与运维效率。
- 与推理引擎、平台、算法及基础设施团队紧密协作，将实际研发和业务问题转化为可复用的数据产品与分析能力，并为 Agent Harness、RSI 等持续优化场景提供数据基础和分析支撑。
职位要求
- 计算机或相关专业本科及以上学历，具备扎实的计算机基础、系统设计能力和良好的工程实践能力，熟练掌握 Go、Python、C++、Java 等语言中的至少一种。
- 具备大规模分布式系统、数据基础设施或可观测性系统的开发经验，熟悉 Metrics、Logs、Traces 等数据模型，理解高吞吐数据采集、流式处理、存储和查询系统的设计原理。
- 熟悉 Prometheus、OpenTelemetry、ClickHouse、Grafana 等相关技术或同类系统，有监控、日志、分布式追踪、Profiling 或数据分析平台建设经验。
- 具备较强的数据分析和问题定位能力，能够利用 SQL、Python 等工具分析复杂系统的运行数据，结合 Metrics、Logs、Traces 和 Profiles 定位性能瓶颈、资源浪费及稳定性问题。
- 理解大模型推理的基本原理，熟悉 Prefill、Decode、KV Cache、Batching、请求调度等核心机制，了解 GPU 计算和资源管理的基本原理。
- 具备良好的定量分析和实验验证能力，能够设计 Benchmark 和性能分析方案，通过数据和实验评估系统优化的实际收益。
- 具备较强的自主学习和跨团队协作能力，能够深入理解推理引擎、平台和算法团队的实际需求，独立完成从问题分析、方案设计到工程落地的工作。 加分项
- 有 vLLM、SGLang 等大模型推理框架的开发、性能分析或优化经验。
- 有大规模时序数据库、日志系统、分布式 Tracing 或 Continuous Profiling 系统建设经验。
- 熟悉 GPU Profiling、CUDA、NCCL、eBPF 等底层性能分析技术。
- 有推理系统容量规划、资源调度、成本分析或自动扩缩容相关经验。
- 有大规模 AI 训练、推理或 Agent 系统的数据化与可观测性建设经验。
- 有利用 AI Agent 实现自动化问题诊断、性能分析或研发效率工具的经验。
