岗位职责
研究领域： 人工智能安全 项目简介： 随着大模型及Agent技术的持续演进，其在内容理解、决策推理、任务执行等方面的能力显著提升。但与此同时，模型与Agent的安全性、可控性和可信度问题 也逐渐成为制约其大规模应用的关键因素。当前的防护措施主要集中在后验过滤或人工规则层面，难以适应智能体的自主性需求。本项目聚焦于轻量化、可验证的AI安全对齐机制研究，从模型行为约束、风险检测与安全提示三个维度，探索小规模可验证的技术路线，为后续大模型安全体系奠定基础。
职位要求
- 具有多模内容理解、大模型、AI安全相关工作经验优先；
- 计算机、电子等相关专业背景；具备扎实的机器学习基础和较强的学习能力；
- 熟悉PyTorch、Tensorflow相关深度学习算法框架，有相应的模型设计和实现经验；
- 在机器学习/CV/NLP/人工智能相关领域有顶会论文或者有算法竞赛top经验者优先。
- 有一定工程基础或者网络安全经验者有加分。
- 至少6个月的全职工作。
