岗位职责
- 负责建设面向集团各业务线的大模型评测体系，涵盖通用能力评测与业务场景定制评测，优化基于 LLM-as-Judge、自动化评测模型训练、人工评估和用户行为数据的多维度评测框架，保障评测结果的全面性和可靠性。
- 构建多维度评测指标体系（准确性、安全性、流畅度、一致性、业务指标等），覆盖 APP 对话助手及各业务线智能体场景。
- 深度参与模型迭代过程中的评测驱动优化，建设完整的“数据→训练→评测→反馈”的高效数据飞轮。
- 跟踪业界主流评测方法与 Benchmark 动态，持续优化内部评测体系。
职位要求
- 计算机科学、人工智能等相关专业硕士及以上学历，1 年以上大模型研发相关工作经验。
- 了解 LLM 常见的能力维度（推理、知识、指令遵循、安全、多轮对话等）及对应的评测策略。
- 具备大模型评测体系设计与落地经验，熟悉主流 Benchmark 与评测框架，有 Rubrics 评测、Arena 对战评测等评测方法实践经验者优先。
- 较强的数据分析能力、优秀的沟通能力与业务理解力，能够从评测数据中提炼模型短板、定位根因、驱动优化方向，能与产品、业务团队有效对齐评测标准。
- 对解决具有挑战性的技术问题充满热情，有开源社区贡献（如大模型相关项目）者优先。
- 关注领域前沿，有 NeurIPS / ICML / ICLR / ACL 等顶会论文发表者优先。
