岗位职责
- 负责各业务接入大模型护栏能力时的全链路方案设计,包括安全介入环节的确定、时效要求制定、数据传输与交互逻辑设计,对最终的安全体验与响应效率负责;
- 主动监控并通过数据分析等手段发现大模型安全链路中的异常问题,牵头排查、定位根源,并协调外部产品/技术/算法&内部安全技术、算法及风险运营等角色推动解决;
- 对接外部业务产品/技术/算法,及内部风险运营/技术/算法,理解各方诉求与约束,推动共识达成,确保安全能力落地;
- 统筹部门内多个安全相关项目(如护栏链路迭代、算法能力接入&应用、新业务接入等),制定里程碑,跟踪进度,识别风险,确保交付质量。
职位要求
- 本科及以上学历,3年以上B端、平台型或安全相关产品经验,熟悉产品全流程;
- 了解大模型基本原理与生成机制,熟悉护栏常见防护手段(提示词拦截、输出审核、语义检测等),能与算法、工程师有效对话,独立评估安全策略对端上响应时延的影响;
- 优秀的沟通协调能力,具备与业务、算法、工程、风险运营等多角色高效协同的经验,能够将复杂的安全问题拆解为可落地的产品方案,并推动多方达成共识;
- 责任心强,积极主动,能妥善处理突发安全事件与紧急接入需求,具备稳定的交付节奏;
- 具备大模型护栏、内容审核、风控系统或对抗性攻击防护等方向的实际产品落地经验;了解RLHF、红蓝对抗、模型安全评测体系或安全对齐相关流程;有计算机、信息安全相关背景或项目实战经验。