招聘中 社招

数据技术及产品部-大模型安全对抗专家-杭州

阿里集团

  • 杭州
  • 技术类-安全

收录时间

岗位职责

  1. 主导集团大模型安全与对抗防御体系的构建:结合多模态、Agent、具身智能等前沿业务场景,负责大模型全链路(预训练数据防投毒/SFT对齐/RLHF/推理部署)的安全对抗演练、漏洞挖掘及红蓝对抗算法优化。
  2. 负责构建基于多模态与Agentic的自动化红队攻击体系:设计并研发基于强化学习、进化算法或多Agent协同的自动化越狱、提示词注入和对抗性扰动生成算法,实现对多模态模型的高并发、深层次安全边界压力测试。
  3. 负责大模型安全对齐与安全护栏算法的研发:研究并落地基于RLAIF、DPO、KTO等前沿对齐技术;设计并迭代高性能、低延迟的输入/输出内容安全过滤模型与多维风险评估机制,保障生成内容符合安全合规标准。
  4. 负责攻克大模型深层漏洞与新型威胁防御:针对间接提示词注入、数据投毒、偏好劫持及版权/隐私泄露等高阶安全威胁,研发对应的算法检测器与鲁棒性增强方案。
  5. 主导自动化对抗消融实验与防御价值验证闭环:设计高精度、轻量化的多维安全评测Benchmark与自动化对抗博弈平台,通过算子智能编排实现7*24H的“攻击自动生成-防御实时阻断-模型快速微调”的安全对抗迭代闭环。

职位要求

  1. 计算机、网络安全、人工智能等相关专业硕士及以上学历,具备扎实的大模型安全、AI对抗样本、密码学或传统Web安全背景,拥有成熟的模型红队测试或对齐算法落地经验。
  2. 熟练掌握PyTorch等深度学习框架,在Transformer架构、大模型微调(PEFT/SFT)、RLHF/DPO对齐、强化学习等至少一个领域有深入的算法落地经验。
  3. 熟悉大模型主流安全漏洞与绕过机制,有基于LLM-as-a-Judge的安全评估框架研发经历,或熟悉多模态对抗样本生成、黑盒/白盒对抗攻击算法者优先。
  4. 具备优秀的数学建模与安全策略设计能力,熟悉海量攻击等特征工程,对分布式训练、大规模红队自动化工程化实现及推理加速优化有深刻理解。
  5. 具备强烈的技术创新意识、极客精神与自驱力,精通Python/C++/Go等至少一种编程语言,能高效协同工程、合规与各业务大模型团队,推动“漏洞挖掘-安全防御-对齐训练”全流程迭代。
  6. 在安全或人工智能顶级会议/期刊(CVPR,NeurIPS,ICLR,ACL等)发表过高水平安全对抗/AI安全方向论文,或在知名AI比赛、大模型安全挑战赛中获得优异成绩,或有大型开源AI安全项目贡献经历者优先。

相似岗位

有些机会,只在官网短暂出现

真正值得关注的岗位,常常只在企业官网短暂开放,可能两三天后就下线,也未必会同步到综合招聘平台。没有持续关注,你甚至不会知道它曾经出现。职先机持续聚合并核验官网岗位,帮你抓住职场先机,快人一步。

微信小程序 / 当前岗位

在微信里继续看这个岗位

阿里集团数据技术及产品部-大模型安全对抗专家-杭州

扫码直达当前岗位收藏、浏览记录和下线提醒留在微信里
电脑端可直接微信扫码;手机端可保存小程序码后在微信中识别。
微信扫码在职先机小程序查看数据技术及产品部-大模型安全对抗专家-杭州正在准备岗位码
职先机微信小程序一岗一码 · 正式版直达保存小程序码

岗位提醒 · 01

收藏当前岗位,下线及时通知

当前岗位数据技术及产品部-大模型安全对抗专家-杭州阿里集团 · 杭州

01

扫码进入当前岗位无需重新搜索,直接打开当前岗位详情。

02

收藏并开启提醒在小程序内收藏后,岗位下线或变化时及时通知。

03

继续查看相似机会原岗位变化时,可继续浏览相关在招岗位。

职先机会持续核验公开岗位;岗位状态与最终招聘结果仍以企业招聘官网为准。

微信小程序扫码打开当前岗位

扫码打开当前岗位,完成收藏并开启下线提醒。

微信扫码在职先机小程序收藏数据技术及产品部-大模型安全对抗专家-杭州正在准备岗位码

微信小程序 · 当前岗位

请前往微信小程序提交内推申请

阿里集团数据技术及产品部-大模型安全对抗专家-杭州社招 · 杭州

01进入当前岗位扫码或打开后直达本岗位内推申请页。

02提交 PDF 简历简历替换、处理进度和消息提醒在小程序内同步。

手机端将尝试直接打开微信;电脑端请使用微信扫码。

微信扫码进入数据技术及产品部-大模型安全对抗专家-杭州内推申请页正在准备岗位码
当前岗位专属码扫码后无需重新搜索岗位保存小程序码

内推提示

暂不支持该岗位内推

如需投递,建议前往官网进行投递。