【实习】基于预训练大模型的端到端生成式搜索技术研究 - 搜索

字节跳动搜索团队主要负责抖音、今日头条、红果短剧、番茄小说、AI搜索等产品以及电商、生活服务等业务的搜索算法创新和架构研发工作。 我们使用前沿的机器学习/大模型技术进行端到端建模并不断创新突破，同时专注于分布式系统、机器学习系统的构建和性能优化，从内存、Disk等优化到索引压缩、召回、排序等算法的探索，致力于支撑字节跳动持续多元化的产品创新和高速的业务增长、基于大模型革新和重塑下一代搜索技术体系，充分给同学们提供成长自我的机会。 主要工作方向包括：

1. 探索前沿的NLP技术：全面基于LLM的Query分析、相关性、个性化预估、满意度评估、生成式检索等，全链路应用LLM/VLM，每个细节都充满挑战；
2. 跨模态匹配技术：进行多模态预训练，在超大规模的多模态表征、匹配、生成等多个技术方向上持续突破，打造世界领先的多模态搜索系统；
3. 大规模流式机器学习技术：应用大规模机器学习，解决搜索中的推荐问题，让搜索更加个性化更加懂你；
4. 千亿级数据规模的架构：从大规模离线计算，分布式系统的性能、调度优化，到构建高可用、高吞吐和低延迟的在线服务的方方面面都有深入研究和创新；
5. 推荐技术：基于超大规模机器学习、因果推断、大模型推理等技术手段，构建业界领先的搜索推荐系统，对搜索推荐技术进行探索和创新；
6. AI搜索技术：基于大模型(LLM/VLM)探索多轮、交互式等大模型原生的搜索产品体验。 课题介绍： 随着大模型技术的快速发展，AI搜索领域迎来了新的机遇和挑战。传统搜索技术在面对海量数据、多模态信息以及用户多轮复杂需求时，开始暴露出很多问题。因此需要基于大模型来构建下一代AI搜索系统，提升搜索系统的智能化水平，优化用户体验，具体目标包括：
7. 探索大模型与排序算法的结合，提升个性化排序的精度和用户体验。
8. 探索基于多模态预训练的端到端生成式搜索大模型
9. 探索基于大模型Agent技术，提升复杂多义Query和多轮搜索下的用户满意度。 课题挑战：
10. 个性化排序的挑战：传统排序算法难以充分利用多模态信息，且模型复杂度有限，无法满足用户对精准化和个性化搜索的需求；
11. 超大规模检索排序的挑战：传统的基于判别式的级联排序系统，难以满足搜索千亿级别候选的检索排序效率需求；
12. 搜索需求日益复杂的挑战：用户搜索需求的复杂度在不断增加，传统搜索框架难以在多轮对话下，准确理解长难、多义Query的语义，导致搜索结果满意度低。 课题价值：
13. 技术价值：突破传统搜索技术瓶颈，构建大模型Agent驱动的下一代AI搜索架构，解决个性化排序、超大规模检索排序、复杂搜索需求理解满足等行业难题；
14. 业务价值：大幅度提升搜索的用户体验和满意度，带动搜索场景LT和主动搜索心智的提升。