岗位职责
- 参与 Agent 安全防护能力的开发,针对提示词注入、工具调用滥用、越权访问等常见风险,设计对应的方案,实现输入校验、权限控制、输出过滤等防护功能。
- 参与 Agent 安全护栏与运行时防护的开发,包括提示词防护、工具调用鉴权、敏感数据脱敏、行为日志与审计。
- 参与 Agent 供应链安全建设,针对第三方工具/插件、MCP Server、开源组件、模型等引入的风险,实现依赖审查、来源校验、权限隔离等防护能力。
- 基于安全业务场景设计落地Agent安全方案,将业务风控、数据安全、威胁检测、事件响应、溯源分析、告警研判等核心流程实现Agent Native端到端自动化处置。
职位要求
- 本科及以上学历,计算机、人工智能、网络安全等相关专业优先。
- 了解主流 Agent 框架,理解 Agent 的工具调用、记忆等基本机制。
- 熟练掌握 Python,具备基本的工程开发能力,能独立完成功能开发与调试。
- 了解常见的 Agent 安全风险及基本防护思路,包含不限于:提示词注入、越权、数据泄露等。
- 具备良好的学习能力和沟通能力,能阅读技术文档与安全资料,工作积极主动。
- 具备AI安全相关理论方法与实践技能,如红蓝对抗、安全测试、安全护栏、规则设计、模型安全评估等。
- 主导过系统安全、Web安全、数据安全等安全方案的优先。