岗位职责
- 负责千问大模型安全运营体系规划、策略设计、自动化运营与监管协同，建设“策略—模型—评测—处置—自动迭代”的端到端运营闭环，保障千问大模型及相关AI应用的内容安全水位及用户体验；
- 面向文本、图像、音视频、多模态对话、Agent工具调用等场景，搭建风险识别与治理策略体系；重点覆盖色情、暴恐、违法、隐私泄露、越狱、提示词注入、幻觉诱导、恶意生成等内容风险；
- 建设并持续优化内容安全审核体系，包括风险标签体系、审核标准、策略规则、人机协同机制、误判/漏判复盘机制；推动审核策略模型化、规则结构化、处置流程自动化；
- 建立内容安全运营指标体系，覆盖风险拦截率、误判率、漏判率、处置时效、策略覆盖率、自动化率、人工审核成本、模型安全水位、合规响应时效等；通过数据驱动持续优化运营效率与模型效果；
- 负责对接监管要求，建立大模型安全合规运营机制；完成监管检查、指令处置、风险报告、审计留痕与整改闭环；沉淀面向网信办等监管场景的标准化汇报材料、合规报告与运营看板。
职位要求
- 本科及以上学历，8年以上互联网安全、内容安全、风控安全、AI安全或大模型运营相关经验；其中至少3年以上大模型安全、AIGC安全、内容治理或安全运营体系搭建经验；
- 熟悉内容安全审核体系，具备风险标签设计、审核标准制定、人机协同审核、策略运营、质量评估、误判漏判复盘等实战经验；对色情、暴恐、违法、隐私、未成年人保护等风险场景有深度理解；
- 熟悉大模型训练、微调、推理、评测与安全对齐流程；了解SFT、DPO、RLHF、RAG、Agent、Prompt工程等关键技术；具备越狱、提示词注入、数据投毒、AIGC违规生成等风险识别与处置经验；
- 熟悉国内大模型、AIGC、数据安全、个人信息保护、网络内容治理等相关监管要求；具备监管检查应对、合规报告输出、审计留痕、风险事件处置与监管沟通经验；
- 具备跨部门战略协同能力，能够拆解复杂业务问题，制定可落地方案，推动产研、算法、业务、GA等多方达成共识并拿结果；有带团队或主导大型安全项目经验者优先； 加分项：有头部大模型厂商、内容平台安全风控经验者优先；熟悉红蓝对抗演练，有实际大模型攻防实战经验者优先。
