岗位职责
- 负责 Safety&Ethos Expert 基模的研究与建设，围绕大模型及 Agent 的安全、价值观与行为准则，提升模型对风险的识别、理解、判断与稳健响应能力。
- 负责模型安全与价值观对齐训练，探索预训练、SFT、偏好优化及强化学习等方法；建设高质量安全与价值观数据，推动安全能力融入模型训练与迭代。
- 建设大模型及 Agent 安全评测体系与 Benchmark，覆盖风险识别、指令遵循、拒答与边界处理、价值观判断及复杂任务执行等场景；探索自动化攻防，形成“评测—分析—训练”闭环。
- 探索模型安全能力的可解释性分析与风险监控方法，结合模型内部表征、输出行为及 Agent 执行过程，定位安全失效模式并推动治理策略迭代。
- 推动安全数据、模型能力与 Agent 环境协同建设，跟踪模型与 Agent 演进带来的新型风险，探索面向未来风险的评估、对齐与应对机制。
职位要求
- 本科及以上学历，计算机、人工智能、数学等相关专业优先。
- 熟悉 Python，具备扎实的算法实现和工程能力；熟练使用 PyTorch 等主流深度学习框架，熟悉 Linux 环境。
- 具备大语言模型训练或应用经验；在以下一个或多个方向有实践经验者优先：模型安全对齐、偏好优化或强化学习、安全评测与 Benchmark、自动化攻防、模型可解释性。
- 具备良好的问题拆解与实验分析能力，能够从评测结果、对抗样本和真实失败案例中发现安全问题，并推动数据、训练、评测与模型迭代的闭环改进。
- 对大模型安全、价值观与 Agent 风险保持持续关注，具备主动推进和跨团队协作能力；有高质量论文、开源项目或相关模型落地成果者优先
