大數(shù)據(jù)架構師的具體職責
大數(shù)據(jù)架構師的具體職責
大數(shù)據(jù)架構師負責公司大數(shù)據(jù)底層框架的整體架構設計,結合公司實際業(yè)務情況進行技術選型及大數(shù)據(jù)戰(zhàn)略規(guī)劃。下面是學習啦小編為您精心整理的大數(shù)據(jù)架構師的具體職責。
大數(shù)據(jù)架構師的具體職責1
職責:
1、負責企業(yè)大數(shù)據(jù)平臺的基礎建設、管理及制定拓展規(guī)劃;
2、負責大數(shù)據(jù)平臺相關自動化服務工具的設計、開發(fā);
3、參與Hadoop、Hbase、Spark等核心平臺組件的開發(fā)、優(yōu)化;
4、對平臺特殊場景化的數(shù)據(jù)應用制定相關實踐方案;
5、大數(shù)據(jù)團隊的搭建。
任職資格:
1、統(tǒng)招本科以上學歷,計算機等相關專業(yè),5年以上工作經(jīng)驗;
2、具有Hadoop等大規(guī)模集群管理經(jīng)驗、海量(PB)數(shù)據(jù)處理經(jīng)驗;
3、精通Hadoop、Hive、Hbase等離線平臺相關組件的原理機制;
4、了解或熟悉Storm/Spark/Redis/Kafka/MongoDB等分布式系統(tǒng);
5、熟悉高并發(fā)、分布式開發(fā)等相關知識,具有后端服務優(yōu)化相關經(jīng)驗;
6、熟悉爬蟲常用框架以及反爬技術;
7、具有良好的溝通能力、分析問題與攻關問題的能力;
8、有責任心,工作積極,對新領域新技術有熱情。
大數(shù)據(jù)架構師的具體職責2
職責:
負責大數(shù)據(jù)平臺架構的規(guī)劃和設計,主導系統(tǒng)的架構設計和核心模塊開發(fā),確保項目質量和關鍵性能指標達成;
負責大數(shù)據(jù)平臺技術框架的選型與技術難點攻關,指導開發(fā)大數(shù)據(jù)平臺的開發(fā),保證大數(shù)據(jù)產(chǎn)品的上線運行;
負責深入理解業(yè)務需求,對業(yè)務建模,設計系統(tǒng)架構,滿足業(yè)務需求;
負責協(xié)助策略和算法工作,保障數(shù)據(jù)挖掘建模和工程化;
負責根據(jù)業(yè)務需求整合優(yōu)化數(shù)據(jù)架構,保證產(chǎn)品的可靠性、穩(wěn)定性;
負責指導開發(fā)人員完成數(shù)據(jù)模型規(guī)劃建設、分析模型構建及分析呈現(xiàn);
負責研發(fā)技術發(fā)展方向,新技術領域的探索,將新技術應用到公司大數(shù)據(jù)平臺,提升公司效能
任職要求:
本科及以上學歷,擁有5年以上大數(shù)據(jù)平臺產(chǎn)品或分布式系統(tǒng)設計經(jīng)驗,6年以上的開發(fā)經(jīng)驗;
精通Hadoop,熟悉大數(shù)據(jù)生態(tài)技術,如Storm、Spark、Scala、Flume、Kafka、Zookeeper、Yarn、Sqoop、CDH、Solr 、Kylin、Impala、Hive、Hbase、Kerberos、Sentry等,有大規(guī)模集群架構、開發(fā)及運維經(jīng)驗;
熟練掌握java/Scala語言,實現(xiàn)面向對象開發(fā)思想OOA,OOD,OOP;
熟悉linux操作系統(tǒng),熟練掌握腳本言語Shell/Perl/Python等編碼語言;
熟練掌握數(shù)據(jù)倉庫設計,開發(fā)工作。能夠根據(jù)業(yè)務設計并開發(fā)數(shù)據(jù)倉。
具備源碼級問題解決和集群優(yōu)化改造能力者優(yōu)先;
能快速的學習新的開源框架和知識體系,并應用到現(xiàn)有架構體系中;
邏輯清晰,快速的學習能力,良好的溝通能力、團隊協(xié)調能力。
具備良好的團隊合作精神,較強的溝通交流能力,具備良好的技術領導能力;
具備良好的文檔撰寫能力和技術團隊管理能力
大數(shù)據(jù)架構師的具體職責3
職責:
1、負責大數(shù)據(jù)基礎平臺的整體規(guī)劃和架構設計,參與需求分析、技術決策以及詳細設計;
2、為現(xiàn)有大數(shù)據(jù)集群Hadoop、hive平臺提供性能調優(yōu)、架構優(yōu)化重組,解決系統(tǒng)中的關鍵問題和技術難題;
3、把握基礎業(yè)務復雜系統(tǒng)的設計,確保系統(tǒng)的架構質量,編寫核心部分代碼;
4、持續(xù)挑戰(zhàn)新的技術方向,攻克大數(shù)據(jù)量,高并發(fā),穩(wěn)定性等各種技術難點。
任職資格:
1、計算機或相關專業(yè)本科及以上學歷;
2、5年以上hadoop的應用開發(fā)經(jīng)驗,5年以上數(shù)據(jù)倉庫開發(fā)實踐經(jīng)驗,至少一個企業(yè)級數(shù)據(jù)倉庫項目開發(fā)經(jīng)驗或者大數(shù)據(jù)處理項目經(jīng)驗;
3、良好的編程開發(fā)能力,精通PHP及其他開發(fā)語言;
4、熟悉mysql等數(shù)據(jù)庫經(jīng)驗,具備優(yōu)秀的SQL編寫、調優(yōu)能力;
5、熟練掌握Linux常規(guī)命令與工具,精通shell, perl, python等腳本語言至少一種;
6、軟件基礎理論知識扎實,具有良好的數(shù)據(jù)結構、算法功底;
7、對新技術敏感,學習能力強,樂于接受挑戰(zhàn),具有良好的團隊合作精神;
大數(shù)據(jù)架構師的具體職責4
職責:
1、數(shù)據(jù)分析軟件平臺架構搭建
2、負責深度學習核心框架或高性能后臺服務系統(tǒng)的架構設計工作,包括系統(tǒng)總體規(guī)劃、架構設計、系統(tǒng)分析、軟件實現(xiàn)、性能優(yōu)化;
3、指導開發(fā)人員開發(fā),并解決系統(tǒng)出現(xiàn)的問題,理解物業(yè)需求;
4、制定開發(fā)計劃和控制開發(fā)進度,負責指導研發(fā)團隊開展設計工作;
任職要求:
1、碩士以上,計算機或先關專業(yè);
2、5年左右軟件開發(fā)經(jīng)驗,含3年以上系統(tǒng)分析、設計經(jīng)驗,有大型軟件項目大型軟件項目;有中大型互聯(lián)網(wǎng)企業(yè)數(shù)據(jù)庫架構設計及管理經(jīng)驗,
3、 具備良好的組件級建模能力,熟悉HTTP、TCP等協(xié)議
4、熟練使用UML進行軟件架構設計,至少精通EA,RATIONAL, VISIO等一種設計工具.
5、精通至少一種編程語言,熟悉 Linux 相關技術,能獨立在上面進行開發(fā)、測試和部署
6、深入理解數(shù)據(jù)庫、數(shù)據(jù)倉庫、大數(shù)據(jù)、分布式體系架構和關鍵技術
大數(shù)據(jù)架構師的具體職責5
職責:
1. 負責大數(shù)據(jù)基礎平臺、海量數(shù)據(jù)存儲/處理分布式平臺、數(shù)據(jù)分析系統(tǒng)架構設計和研發(fā);
2. 負責實時計算平臺基礎架構設計、部署、監(jiān)控、優(yōu)化升級;
3. 制定項目/數(shù)據(jù)倉庫設計及實現(xiàn)規(guī)范,指導設計研發(fā)和部署;
4. 協(xié)助策略和算法團隊工作,保障數(shù)據(jù)挖掘建模和工程化;
5. 深入研究大數(shù)據(jù)相關技術和產(chǎn)品,跟進業(yè)界先進技術;
任職要求:
1. 全日制本科及以上學歷,5年以上軟件和分布式系統(tǒng)研發(fā)經(jīng)驗,3年以上大數(shù)據(jù)系統(tǒng)架構經(jīng)驗;
2. 精通Hadoop/HBase/Spark/Storm/Redis技術及其生態(tài)圈;
3. 具備良好的系統(tǒng)分析能力、故障診斷能力;
4 有大數(shù)據(jù)策略、算法、可視化經(jīng)驗優(yōu)先。