岗位职责
职位概述：负责构建小红书AI内容安全和AI应用安全的核心算法体系，覆盖从模型训练、服务上线到内容生成与传播的全链路风险管控，研发先进的生成式内容识别与防护技术，保障平台内容安全与用户体验。 主要职责：
- 构建AI全链路安全防护体系，覆盖训练数据安全、模型安全对齐、服务部署安全、应用场景伦理治理等阶段，识别并应对各环节风险源，落地端到端控制措施；
- 研发全模态AIGC检测算法，覆盖图像静态识别、视频动态内容理解、人物深伪检测、工业创作痕迹检测等方向，实现发布主动校验、存量彻底清扫的完整闭环；
- 构建大模型应用安全防护机制，包括提示词检测、输入输出审核过滤、检索增强安全、滥用行为识别与处置，保障模型在内容生成与用户交互场景下的安全可控；
- 通过数据飞轮与闭环优化机制，持续提升算法性能：关注识别召回准确率、系统资源消耗、高并发承载能力等核心指标，推动架构优化；
- 跟踪生成式AI前沿技术演进（扩散模型、LLM、多模态大模型等），预判新型安全风险，设计攻防演练方案，形成数据与模型的持续迭代飞轮；
- 协同产品、运营、法务、GA团队，保障新产品功能的安全合规，推动平台AIGC内容治理体验优化。
职位要求
- 计算机、人工智能相关专业硕士及以上学历，3年以上AI安全、内容风控或相关算法领域经验；
- 具备以下至少一个领域的深入经验：AIGC多模态检测与识别（图像、视频、深伪、溯源）、大模型安全与对齐（Safety Alignment、RLHF、防灾难性遗忘）、大模型应用安全（Prompt攻防、RAG安全、Agent安全）、AI内容治理体系建设（召回/精排链路、质量闭环优化）、熟悉大模型训练与后训练技术（SFT、RLHF、增量训练）&了解扩散模型、LLM等生成式模型原理，有大规模数据处理与标注体系建设经验、具备系统工程化落地能力，熟悉算法服务化、配置中心化、自动化运维及可观测性建设、参与过大型互联网平台内容安全或AI治理体系建设者优先；有实际攻防演练或红蓝对抗经验者优先、在顶级会议（NeurIPS、CVPR、ACL、ICLR等）发表相关论文或持有专利者优先。
