岗位职责
面向大模型原生、及大模型原生应用等业务场景，基于大数据和大规模分布式计算环境，开展大模型建模、持续训练等，研发算法、算法工程化和在线系统落地，持续提升算法效果、系统性能和业务价值。研发大模型安全围栏算法方案研发，从离线验证走向生产应用，打通建模、训练、部署、监控与迭代优化全流程，负责大模型应用系统安全的算法能力建设和部署。 具体职责包括以下相关方向的一项或多项：
- 提升LLM/VLLM在复杂业务场景的安全性与帮助性。设计并实现从预训练到后训练的全流程安全对齐框架，将安全约束深度融入训练目标与模型架构;
- 构建可轻量级部署、有深度推理能力的大模型，有对有害内容、Agent安全、模型幻觉等安全威胁的内生防御能力，并平衡安全性、用户体验、及模型性能;
- 构建持续学习的在线安全对齐机制，支持模型安全能力的自我进化与迭代，确保新型威胁下模型的自愈能力，确保输出的准确性、可靠性及符合伦理规范。
职位要求
- 具备扎实的机器学习与深度学习理论基础；在大模型安全对齐领域有深入研究，熟悉RLHF、SFT、可控生成等核心技术，具备相关算法研发经验；在Agent安全相关领域有深入研究；
- 精通PyTorch/Megatron/VeRL等深度学习框架，有大模型训练或安全优化实战经验；精通计算机原理，大模型算法、大模型应用系统架构和相关优化经验；
- 具备优秀的算法实现、系统优化、及工程落地能力；
- 对AI安全技术发展趋势有深刻理解，在顶级会议发表过安全对齐、可解释AI、伦理机器学习等相关论文者优先。
