岗位职责
- 负责多模态数据处理链路的推理优化，分析性能瓶颈，软硬件结合优化，实现包括语言识别、计算机视觉等多方向的推理优化，达到极致性能；
- 负责多模态数据处理链路的可观测性工具建设，包括数据处理、模型推理的监控、告警等；
- 负责异构资源（GPU、CPU等硬件）的调度优化，实现潮汐资源、混部资源、多云资源的最优化调度
- 负责集群和业务服务的稳定性治理、资源利用率提升，通过系统化方式提高GPU、CPU等硬件资源的使用效率。
- 参与设计高吞吐、低延迟的数据处理 pipeline。针对大模型数据处理场景（如LLM、多模态），优化数据清洗、预取、缓存及异步加载策略，确保数据大规模产出。
职位要求
- 精通Python/Java，熟悉PyTorch、vLLM等推理框架，具有处理多模态数据（图像、文本、音频、视频等）的经验，对主流大语言模型推理加速有实践经验者优先；
- 熟悉常用的flink/spark/hadoop等大数据处理框架
- 对Daft、Ray等开源AI数据处理框架熟悉者优先
- 有可观测系统开发或应用经验者优先，包括prometheus、grafana等；
- 对多模态模型熟悉者优先，包括qwen-vl、qwen-omni等；
- 本科及以上学历，计算机相关专业，具备扎实的算法与数据结构功底；
