部门介绍
面向大模型推理平台,围绕真实业务工况、典型业务场景,建设数据分析与洞察能力。通过分析海量线上请求,深入理解业务负载特征、系统运行规律及性能瓶颈,挖掘潜在的用户共性需求提升客户体验,解锁技术优化机会,为平台研发方向、架构设计和技术演进提供数据依据,持续提升平台性能、稳定性、资源效率、成本和产品能力的竞争力。
- 工况分析与业务洞察:深入分析线上真实请求的流量分布、Token 长度、并发模式、请求时序、模型调用等特征,建立 Workload 画像,挖掘不同业务场景下的负载规律、变化趋势及潜在优化机会。
- Trace 分析与性能归因:基于全链路 Trace 和运行指标,分析请求在路由、调度、排队、Prefill、Decode 等环节的性能表现,识别关键瓶颈,建立系统化的性能分析与归因能力。
- 场景分析与技术机会挖掘:针对 Chat、Agent、Coding、长上下文、多轮交互等典型场景,研究请求行为、Session 特征、KV Cache 复用及资源使用模式,从真实工况中发现新的技术需求和架构优化机会。
- 研发方向与架构演进:将数据分析结果转化为技术洞察,识别现有平台在调度、缓存、弹性、资源管理及服务架构上的系统性问题,提出优化方向,并与研发团队共同推动方案设计、落地及效果验证。
- 性能与资源效率优化:通过数据分析和实验评估,研究不同模型、硬件、业务负载和调度策略下的性能与成本表现,推动吞吐、时延、GPU 利用率及资源效率持续提升。
- 数据工程与分析体系建设:建设面向海量请求的工况分析、Trace 检索、异常检测、性能归因及可视化分析工具,推动分析流程自动化、标准化与工程化。
岗位职责
招聘官网暂未提供完整岗位职责,请前往官网核实。
职位要求
- 计算机、软件工程、数据科学、基础数学、统计学等相关专业,本科及以上学历。
- 具备C及B端产品运营、用户增长、留存、反馈、推荐系统等领域的用户分析、流量分析、策略分析或性能优化经验,熟悉大规模在线请求、流量分布、用户行为、在线实验及策略效果评估。
- 具备扎实的数据分析及工程能力,熟练使用 Python、SQL,熟悉大规模数据处理、统计分析和数据建模方法。
- 对用户洞察或者分布式系统、在线服务架构及系统性能分析有一定理解,能够结合用户行为及技术原理解释数据现象,而非仅停留在指标统计和可视化。
- 具备优秀的数据洞察和问题抽象能力,能够从复杂、海量的数据中发现规律、识别异常、提出假设,并通过实验验证。
- 具备良好的工程实践能力,能够独立建设数据分析工具、分析流水线或自动化诊断能力。
- 具备较强的技术好奇心、逻辑分析能力和跨团队协作能力,能够与系统研发团队共同推动技术优化和架构演进。 【加分项】 熟悉 MaaS领域,对LLM Serving的核心架构和工作原理等核心机制。 具备基于数据洞察推动产品设计和体验优化、算法策略优化、系统架构改进、资源调度优化或技术方向探索的实际经验。