岗位职责
- 负责 AIGC 场景下多模态内容安全核心能力的研发与迭代，覆盖图文音视及跨模态组合内容，构建贯穿用户输入、生成过程与输出分发的风险识别、审核、解释和合规控制能力，保障生成内容与业务应用安全。
- 探索并构建多模态安全大模型，推进其在AIGC内容安全场景的训练与落地。围绕跨模态语义理解、隐式风险识别、风险定位与解释等能力，结合指令微调、偏好优化、知识增强、强化学习及对抗训练等，持续提升模型对新型风险和复杂业务场景的泛化性、鲁棒性与可控性。
- 探索基于 Agent 的多模态安全审核与治理方案，结合风险知识检索、工具调用、任务规划与多模型协同，构建复杂内容分析、风险证据核验、策略匹配及人机协同处置流程。同时面向 AIGC 与 Agent 应用，建设输入输出防护、上下文与工具调用检查等 Guardrails 能力，防范提示词注入、越狱诱导、敏感信息泄露及不安全工具调用等风险。
- 负责多模态安全模型及安全 Agent 的推理优化与工程落地，开展模型量化、剪枝、蒸馏、稀疏化及推理加速，构建轻重模型分级审核、动态路由与端云协同机制。推进端侧 VLM 轻量化部署，在低时延、低功耗、弱网及隐私约束下，平衡安全效果、处理效率与部署成本。
- 建设面向 AIGC 的跨模态风险本体、策略标签体系与标注规范，沉淀高质量训练数据、难例库及对抗样本生成工具。搭建覆盖模型、Agent 与端到端业务链路的评测及红队测试体系，评估风险召回、误杀、跨模态一致性、对抗鲁棒性、延迟与成本，结合线上监控和人工反馈，推动数据、模型与安全策略持续迭代。
职位要求
学历背景：计算机科学、人工智能、网络安全等相关专业，硕士或博士在读。 算法基础：熟悉 Transformer 结构，深入理解主流多模态大模型架构（如 LLaVA, GPT-4V, Gemini, Stable Diffusion 等）及其训练/推理机制。 攻防经验：了解对抗攻击（Adversarial Attacks）经典算法（如 PGD, FGSM），或有大模型越狱（Jailbreak）、Prompt Engineering 相关研究经验者优先。 编程能力：熟练掌握 Python 及 PyTorch/TensorFlow 框架，具备良好的代码实现能力，能快速复现 Paper 中的算法。 学术能力：在 AI 安全、CV、NLP 等领域的顶级会议（CVPR, ICCV, ACL, NeurIPS, CCS, USENIX Security 等）发表过论文者优先。
