岗位职责
- 安全评测执行:深入了解Agent应用,制定评测方案,执行安全评测,覆盖直接\间接注入、工具调用越权、敏感数据泄露等风险,产出评测报告包括安全水位、风险清单等。
- 离线安全审计:对Agent执行轨迹进行离线审计,识别越权调用、异常数据流转、疑似注入攻击、记忆污染、skill投毒等风险行为,定期产出风险审计报告。
- 评测能力建设:结合业务特性及行业发展,参与风险分类分级,扩充评测数据集,维护攻击方法库,编写自动化评测脚本,优化评测工具,沉淀可复用的评测资产。
职位要求
- 学历与经验:本科及以上学历在读(大三、大四或研一、研二优先),网络安全、应用安全、AI安全、计算机科学、人工智能等相关专业。
- 技术能力: 对Agent工作流(感知-规划-行动-记忆)有基本认知,了解常见的AI安全风险(如注入攻击、越权、幻觉等)。 具备基本的数据处理能力,能熟练使用 SQL 或 Python 进行日志查询、数据清洗与分析。 具备良好的英文文献阅读能力,能快速跟进AI安全领域的最新风险动态。
- 学习能力:对AI安全方向有学习热情,能在指导下快速掌握风险框架、设计评测方案、构建评测集、配合团队完成评测和审计工作。
- 综合素质:工作细致、责任心强,对数据安全和保密规范有高度敬畏心。具备扎实的数据分析能力,擅长从数据中提炼问题及解决方案,具备出色的团队协作能力。
- 实习时长:每周至少4天,持续3个月以上 加分项
- 有CTF比赛经历、网络安全相关课程项目或学术研究成果。
- 熟悉LangChain、LlamaIndex等主流Agent开发框架原理。
- 有使用Promptfoo、Garak等自动化评测工具的经验。
- 对AI红队测试(Red Teaming)有浓厚兴趣或实践经验。