部门介绍
参与多模态大模型(视觉+语言)训练语料与数据体系建设,负责语料获取、清洗、评估、配比、合成等关键环节的方案设计与工程落地,构建覆盖预训练、后训练(SFT、RLHF/DPO)与评测全流程的高质量训练数据流;重点支撑医疗大模型场景(影像问答、报告解读、病理诊断等),兼顾金融大模型、百灵等AGI业务,保障语料质量、供给效率与合规性,与团队共同推动语料供给从"按需响应"向"主动增长"模式演进。
岗位职责
- 语料建设落地:结合模型迭代节奏与预训练/后训练对数据规模、质量、配比的需求,参与语料建设路线图(规模、语种、模态、领域覆盖)的制定与拆解,负责所承担方向的语料供给目标落地。
- 数据引擎与语料资产:负责高质量数据源(公开数据、授权数据、业务私有数据)的发现、评估与引入,参与全网URL库、DataMap等语料资产底座建设;研究并实践先进的数据清洗、数据合成等技术,构建支撑基座模型预训练与后训练的高质量训练数据流,推动语料资产可度量、可运营、可复用。
- 大规模清洗与质检:负责TB级/百亿级token规模语料处理Pipeline的开发与持续迭代(去重、去污染、质量分层、敏感信息过滤、版权合规校验),建设与运营自动化质量评估体系(LLM-as-Judge、人工抽检、基准集回归),执行质量门禁并维护数据血缘。
- 领域与多模态语料:负责医疗等核心领域及图文、音视频等多模态语料的构造方案落地(非结构化数据解析、对齐、稀缺样本增强),支撑影像问答、报告解读、病理诊断等场景的模型能力建设,沉淀可复用的领域/模态语料生产方法。
职位要求
- 3年以上数据工程、数据仓库或大规模数据处理经验,其中1年以上大模型训练数据/语料处理相关项目经验;有TB级数据、百亿级以上token语料或百万级以上多模态样本处理经验者优先。
- 理解预训练与后训练(SFT、RLHF/DPO)各阶段对训练数据的要求,参与过SFT/RL数据构建、数据配比或数据质量实验,能用数据说明语料工作对模型效果的贡献者优先。
- 熟悉大规模语料处理关键技术(去重、去污染、质量分层)及图文、音视频等多模态数据处理(PDF解析、OCR后处理、转写与对齐),了解主流数据质量评估方法与工具链,有LLM-as-Judge评估、基准/评测集建设经验者优先。
- 了解训练数据合规的基本要求(版权、隐私、毒性及敏感信息过滤),有相关数据治理与落地经验者优先。
- 扎实的工程能力(熟练掌握Python/Go/Java至少其一,熟练使用Spark、HiveSQL等大数据工具),能穿透到代码与数据细节定位复杂问题。
- 良好的跨团队沟通协作能力,能与算法、产品、医学/医生团队高效对齐数据需求、标注规范与验收标准。