岗位职责
- 语料战略与路线图:结合模型迭代节奏与Scaling Law对数据规模、质量、配比的需求,制定语料建设路线图(规模、语种、模态、领域覆盖),定义各阶段语料供给的量化目标并推动达成;
- 语料获取与资产化:主导全网URL库、DataMap等语料资产底座建设,建立高质量数据源的发现、评估与引入机制(公开数据、授权数据、业务私有数据),构建语料价值评估模型,实现语料资产可度量、可运营、可复用;
- 大规模清洗与质检体系:设计并持续演进千亿级token语料处理Pipeline(去重、去污染、质量分层、敏感信息过滤、版权合规校验),建立自动化质量评估体系(LLM-as-Judge、人工抽检、基准集回归),定义质量门禁与数据血缘标准;
- 数据配比与效果闭环:与算法团队共建训练数据配比(data mixing)策略,设计并执行配比实验,建立"模型评测诊断→数据问题归因→Pipeline迭代→效果回归验证"的数据飞轮,以可量化指标(评测分数提升、单位token成本下降)驱动语料持续优化;
- 领域与多模态语料:主导金融、风险、医疗等核心领域语料及图文、音视频等多模态语料的建设方案(非结构化数据解析、对齐、稀缺样本增强),沉淀可复用的领域语料资产与构造方法论;
- 前沿探索与提效:跟踪数据合成、智能标注、AI辅助数据生产等前沿方向,完成技术评估与引入落地,持续提升语料生产效率与质量;
- 组织影响力:定义团队语料建设的技术规范与最佳实践,培养中初级数据工程师,跨团队拉通算法、产品、工程对语料的需求与验收标准;视需要输出对外影响力(技术分享、开源、论文)。
职位要求
- 8年以上数据工程、数据仓库或大规模数据处理经验,其中至少2年深耕大模型训练数据/语料建设,有TB级以上语料处理或从0到1语料体系落地的成功案例;
- 深刻理解LLM训练数据飞轮与Scaling Law对数据规模、质量、配比的约束,有数据配比实验设计经验,并能给出对模型效果的可量化贡献;
- 精通大规模语料处理Pipeline架构设计(去重、去污染、质量分层),熟悉主流数据质量评估方法与工具链,有自建评估基准集的经验;
- 具备训练数据合规治理实战经验(版权、隐私、毒性及敏感信息过滤),熟悉集团内外部数据合规红线;
- 扎实的工程能力(精通Python/Go/Java其一,熟练使用Spark、HiveSQL等大数据工具),能穿透到代码与数据细节定位复杂问题;
- 具备跨团队协同与技术影响力,能驱动算法、产品、工程团队就语料标准与验收达成一致,有团队培养或技术规划经验。 加分项
- 有头部互联网公司大模型数据集建设经验,或主导过支撑千亿/万亿参数模型训练的语料供给项目;
- 有多模态语料(PDF解析、OCR后处理、音视频转写与对齐)或合成数据生成与质控的实战经验;
- 有GPU算力/数据成本治理经验、语料价值评估方法论研究背景,或语料生成/标注平台、LLM数据供应链平台的建设经验;
- 在智能标注、AI辅助数据生产工具有落地成果,持续关注行业前沿并能快速完成引入与验证。