岗位职责
- 参与公司大模型系统安全体系的建设,涵盖模型、平台、Agent、工具等各环节的全生命周期安全流程和产品的设计落地;
- 参与大模型系统的安全评估、红蓝对抗演练,针对大模型特有的安全风险(如提示词注入、模型窃取、训练数据泄露等)设计并落地防护策略;
- 跟踪大模型前沿安全技术,开展相关技术预研与落地探索,提升整体大模型系统安全水位。
职位要求
- 熟悉大模型技术原理及AI智能体开发流程,了解大模型系统的主要安全风险与攻击面分析方法,掌握OWASP LLM Top
- MITRE ATLAS等安全标准与实践;
- 至少有以下任意一项工作经验:AI安全攻防研究、大模型系统安全测试与风险评估、大模型威胁对抗技术;
- 具备扎实的编程能力,熟练使用 Java、Python 等至少一门开发语言;
- 具有良好的沟通协作能力、自我驱动力和团队合作精神;
- 加分项:网络安全、SRC、渗透测试、英语。