岗位职责
- 安全策略体系搭建：负责小米内部AIGC生成业务特别是小爱同学业务的安全策略产品规划，建立覆盖输入-生成-输出全链路的安全防控体系，持续迭代审核标准与策略规则。
- 基座模型安全治理：参与基座大模型安全评估与对齐工作，包括安全评测体系设计、Red Teaming、安全边界定义，推动模型安全能力提升。
- 安全价值观对齐：主导安全价值观对齐工作，制定安全偏好标准，协同算法团队完成RLHF/DPO对齐训练的数据标注规范与效果评估。
- 安全模型自研落地：主导安全侧自研模型的策略规划与产品化落地，包括内容安全分类、Prompt注入防御、幻觉检测等模型，推动从0到1建设。
- 多模态与Agent安全：覆盖文本/图像/视频/音频全模态安全策略，制定AI Agent行为边界策略与Tool调用安全规范，防范新型安全风险。
- 安全风险运营闭环：搭建风险发现→研判→刻画→标准执行完整运营机制，基于数据驱动与badcase分析持续迭代策略。
- 跨团队协同与合规：与算法、工程、法务、合规等团队协作推动策略落地，跟踪国内外AIGC安全法规与前沿动态，确保业务合规。
职位要求
- 学历：本科及以上，计算机科学、信息安全、人工智能等相关专业优先。
- 经验：5年以上内容安全/AI安全/策略产品相关经验，有大模型或AIGC安全领域经验者，特别是车载/IoT端侧大模型、跨境多语言内容安全合规经验、安全大模型（Llama Guard、ShieldGemma等）评测或适配经验优先。
- 基模安全能力：熟悉LLM安全风险体系（有害内容、Prompt注入、越狱、数据泄露、幻觉等），有基座模型安全评测与Safety Alignment实际经验。
- 安全策略能力：具备内容审核策略制定与迭代经验，能基于数据分析驱动优化；熟悉安全分类/标签体系设计，有多语言/多模态场景经验者优先。
- 安全模型与对齐能力：有自研安全模型的策略设计经验，理解ML/DL基本原理；了解RLHF/DPO等对齐方法论，有安全数据飞轮建设经验者优先。
- 新兴安全能力：了解AI Agent安全风险（Tool调用、多Agent协作、行为边界等）；熟悉多模态生成安全（文生图/视频安全边界、多模态幻觉检测等）。
- 综合素质：逻辑分析与数据驱动思维强，善于从复杂问题中抽象可落地方案；跨团队沟通协调能力好，英语读写良好。
