岗位职责
- 负责微信读书长文本理解场景下大模型(LLM)的部署与推理优化工作,聚焦系统吞吐量(Throughput)及服务性能的极致调优;
- 针对长文本理解的业务特性,开展大模型量化、推理加速等专项落地工作,提升模型在长上下文场景下的推理效率;
- 跟踪大模型推理优化前沿技术(如投机解码、KV Cache 优化、动态批处理等),结合微信读书长文本阅读场景的业务需求开展技术预研与难点攻关,沉淀可复用的技术方案。
职位要求
- 本科及以上学历,计算机相关专业,具备良好的算法、数据结构及操作系统基础;
- 1 年及以上工业级项目开发经验,熟练掌握 Python,了解 Golang 优先,能独立完成推理相关的开发与调优工作;
- 熟悉 Linux 环境开发,了解常见后端架构方案(RPC 框架、消息队列等),具备扎实的性能瓶颈定位与数据分析能力;
- 有 SGLang/TensorRT//vLLM 等推理框架的使用经验;
- 具备良好的代码习惯,沟通高效,有强烈的技术攻坚意愿与责任心。