岗位职责
- 结合搜索业务场景，研发SLM，LLM等各类型尺寸适合的线上推理模型，保障推理引擎的性能与稳定性，降低部署成本，有效承载C端大流量访问要求，模型类型包括但不限于生成式，判别式等；
- 熟悉搜广推场景的分布式系统的基本原理（检索引擎，KV服务等），能够将通用的系统工程思想注入到大模型推理领域，系统化解决线上的工程难题；
- 紧跟 LLM Infra 领域的前沿技术演进突破，将合适成果落地于实际应用；
- 与搜索算法同学深度合作，联合优化，设计实现能够给大型搜索系统带来代际更迭的大模型。
职位要求
- 本科及以上学历，计算机/电子/自动化/软件等相关专业，有搜广推场景下推理工程优化经验的优先；
- 熟悉Linux 开发环境、熟悉C/C++编程语言，熟练掌握常用算法和数据结构；
- 熟悉业界常用的大模型推理框架VLLM，SGLang等，熟练掌握大模型算法结构原理。
