岗位职责
面向公有云建设统一的离线计算、实时计算与交互式查询平台,基于 Spark、Flink、Trino 等开源引擎,提供稳定、高效、易用的计算服务,支撑数据加工、实时入湖和分析查询。
- 负责 Spark、Flink、Trino 计算引擎的平台化建设,包括云上部署、版本管理、配置管理、稳定性优化与故障恢复;
- 建设统一作业和查询接入能力,支持 SQL、Jar、Python 等任务的全生命周期的监控与管理;
- 建设多租户资源管理能力,包括队列、配额、优先级、并发控制、资源隔离与弹性伸缩,提升资源利用率;
- 负责离线计算与交互式查询优化,解决慢查询、数据倾斜、Shuffle、内存和高并发问题,持续优化性能与云资源成本;
- 负责实时计算稳定性建设,包括 Checkpoint、Savepoint、状态管理、作业升级与恢复,解决反压、状态膨胀和延迟问题;
- 建设计算平台的监控、告警、容量评估和故障诊断体系,沉淀标准配置、作业模板及运维工具。
职位要求
- 熟练掌握 Java / Scala 中至少一种语言,具备扎实的 SQL、分布式系统及工程开发基础;
- 深入掌握 Spark、Flink、Trino 中至少一种引擎的运行机制,具有生产环境的平台建设、性能优化或稳定性治理经验;
- 熟悉 Linux、容器和 Kubernetes,具备公有云环境下计算服务部署或运行管理经验;
- 能够独立完成方案设计、开发上线、运行维护和问题排查。