崗位職責:
1、負責大數據平臺的架構設計和優化,確保數據的高效存儲、處理和訪問,確保系統的穩定性和可靠性。
2、負責根據業務設計和構建企業級數據倉庫,包括數據模型設計、ETL流程開發等?。不斷優化模型和產品,建立線上監控、評估和報表。
3、負責大數據平臺的數據存儲、處理和計算任務,保障數據的高效提取和分析。
4、開發、優化和維護與Flink、Hadoop、Hive、Spark相關的數據處理程序和作業。
技能要求:
1.精通Flink、Hadoop,精通SQL語言及調優方法;具備豐富的Flink、Spark、MapReduce、HDFS、Hive等大數據框架的實際設計與開發經驗。
2.能夠獨立設計和開發大規模數據處理和分析系統,具備良好的編程能力和調試能力。
3.具備扎實的Java編程基礎,熟悉常用的數據結構和算法。
4.熟練掌握Java、Python等編程語言,熟悉Spring框架,包括Spring Boot、Spring MVC等,有相關項目開發經驗者優先。
5.具備良好的溝通能力和團隊協作能力,能夠與產品、運維、測試等部門有效配合,完成項目開發任務。
6.熟悉PostgreSQL、Clickhouse、Doris、Neo4j等數據庫中的一個或多個,并有過實際項目的開發經驗的優先。
經驗要求:
5-8年大數據開發經驗,有大規模數據處理項目實施經驗者優先考慮。
項目工作地:河西區