2024年hadoop崗位職責(zé)18篇

2024年hadoop崗位職責(zé)18篇

目錄

第1篇hadoop研發(fā)工程師職位描述與崗位職責(zé)任職要求

第2篇hadoop運(yùn)維工程師職位描述與崗位職責(zé)任職要求

第3篇hadoopsre工程師職位描述與崗位職責(zé)任職要求

第4篇高級hadoop開發(fā)工程師職位描述與崗位職責(zé)任職要求

第5篇hadoop運(yùn)維崗位職責(zé)

第6篇seniorconsultant,hadoopengineer職位描述與崗位職責(zé)任職要求

第7篇hadoop開發(fā)工程師職位描述與崗位職責(zé)任職要求

第8篇hadoop運(yùn)維崗位職責(zé)hadoop運(yùn)維職責(zé)任職要求

第9篇hadoop工程師職位描述與崗位職責(zé)任職要求

第10篇大數(shù)據(jù)基礎(chǔ)架構(gòu)工程師（hadoop）職位描述與崗位職責(zé)任職要求

第11篇hadoop開發(fā)工程師b02職位描述與崗位職責(zé)任職要求

第12篇hadoop高級工程師職位描述與崗位職責(zé)任職要求

第13篇架構(gòu)師（java&hadoop）職位描述與崗位職責(zé)任職要求

第14篇hadoop架構(gòu)師崗位職責(zé)hadoop架構(gòu)師職責(zé)任職要求

第15篇hadoop高級開發(fā)工程師職位描述與崗位職責(zé)任職要求

第16篇hadoop架構(gòu)師崗位職責(zé)

第17篇高級系統(tǒng)架構(gòu)師（hadoop/spark)職位描述與崗位職責(zé)任職要求

第18篇hadoop程序員崗位職責(zé)

seniorconsultant,hadoopengineer職位描述與崗位職責(zé)任職要求

職位描述：

incorporatedin2017，kpmgtechnologyr&dcentrecombinesfourfunctions:r&d，in-houseservices，outsourcedservicesandoperationalservices.itiskpmg’sfirstr&dcentreandseconddeliverycentreinchina.

askpmg’sfirstr&dcentreinchina，ourbusinessactivitiescurrentlyinclude:

1.development，design，productionofcomputersoftwareandcomputersystemintegration;

2.ai，r&danddeliveryoftechnologies

3.bigdata-relatedservicesandtechnicalsupport，includingdatadevelopment，dataprocessing，dataminingetc.

drivenbyincreasingmarketdemand，wewillexpandther&dcentre’sscopeofbusinessonanongoingbasistoenabletechnologiestoprovidequalityservicesforourclients.

responsibilities

workaspartofateamsupportingthefollowingbusinessplatforms:

-enterprisedatawarehouse

-provideguidanceondesigningbigdataplatformarchitecture

-conductresearchonlatestbigdataplatformproducts

-takeresponsibilityfordesigningthecorecomponentsofbigdataplatformsuchas:hdfs、mapreduce、hiva、hbase

skillsandexperience

-familiarwithlinuxjavadevelopmentenvironmentandjavaeespecifications

-familiarwithbasicdatastructuresandcommonalgorithm

-familiarwithshelland/orjavaand/orscala

-familiarwithbasiclinuxoperations

-abilitytomulti-task，strongsenseofresponsibility，andverystrongcommunicationskills

-deepknowledgeofhadoop，spark，hive，nosql，hbase，mapreduceisaplus

hadoop架構(gòu)師崗位職責(zé)hadoop架構(gòu)師職責(zé)任職要求

hadoop架構(gòu)師崗位職責(zé)

工作職責(zé):

1、負(fù)責(zé)全行大數(shù)據(jù)在各類業(yè)務(wù)場景中的應(yīng)用規(guī)劃及設(shè)計方案的制定;

2、負(fù)責(zé)對全行大數(shù)據(jù)的標(biāo)準(zhǔn)化進(jìn)行梳理并制定相應(yīng)方案;

3、負(fù)責(zé)制定全行的元數(shù)據(jù)集，并對元數(shù)據(jù)管理的流程、技術(shù)方案進(jìn)行設(shè)計;

4、面向數(shù)據(jù)價值服務(wù)為數(shù)據(jù)應(yīng)用場景進(jìn)行方案設(shè)計并指導(dǎo)落實(shí)實(shí)施;

5、負(fù)責(zé)對大數(shù)據(jù)相關(guān)領(lǐng)域的創(chuàng)新性研究和知識產(chǎn)權(quán)保護(hù)工作;

6、領(lǐng)導(dǎo)交辦的其他工作內(nèi)容。

任職要求:

1、全日制本科及以上學(xué)歷，計算機(jī)、通信工程、數(shù)學(xué)等相關(guān)專業(yè);

2、具備3年以上大數(shù)據(jù)相關(guān)開發(fā)經(jīng)驗(yàn)，2年以上大數(shù)據(jù)系統(tǒng)相關(guān)設(shè)計經(jīng)驗(yàn);

3、熟悉hadoop、hive、hbase、flume、sqoop、spark以及流式計算等大數(shù)據(jù)相關(guān)技術(shù)，并具備相關(guān)開發(fā)經(jīng)驗(yàn);

4、在金融行業(yè)或互聯(lián)網(wǎng)金融領(lǐng)域有過相關(guān)工作經(jīng)驗(yàn)者優(yōu)先考慮;

5、具備良好的溝通能力、團(tuán)隊(duì)合作精神，能接受高強(qiáng)度工作。大數(shù)據(jù)架構(gòu)師:

工作職責(zé):

1、負(fù)責(zé)全行大數(shù)據(jù)在各類業(yè)務(wù)場景中的應(yīng)用規(guī)劃及設(shè)計方案的制定;

2、負(fù)責(zé)對全行大數(shù)據(jù)的標(biāo)準(zhǔn)化進(jìn)行梳理并制定相應(yīng)方案;

3、負(fù)責(zé)制定全行的元數(shù)據(jù)集，并對元數(shù)據(jù)管理的流程、技術(shù)方案進(jìn)行設(shè)計;

4、面向數(shù)據(jù)價值服務(wù)為數(shù)據(jù)應(yīng)用場景進(jìn)行方案設(shè)計并指導(dǎo)落實(shí)實(shí)施;

5、負(fù)責(zé)對大數(shù)據(jù)相關(guān)領(lǐng)域的創(chuàng)新性研究和知識產(chǎn)權(quán)保護(hù)工作;

6、領(lǐng)導(dǎo)交辦的其他工作內(nèi)容。

任職要求:

1、全日制本科及以上學(xué)歷，計算機(jī)、通信工程、數(shù)學(xué)等相關(guān)專業(yè);

2、具備3年以上大數(shù)據(jù)相關(guān)開發(fā)經(jīng)驗(yàn)，2年以上大數(shù)據(jù)系統(tǒng)相關(guān)設(shè)計經(jīng)驗(yàn);

3、熟悉hadoop、hive、hbase、flume、sqoop、spark以及流式計算等大數(shù)據(jù)相關(guān)技術(shù)，并具備相關(guān)開發(fā)經(jīng)驗(yàn);

4、在金融行業(yè)或互聯(lián)網(wǎng)金融領(lǐng)域有過相關(guān)工作經(jīng)驗(yàn)者優(yōu)先考慮;

5、具備良好的溝通能力、團(tuán)隊(duì)合作精神，能接受高強(qiáng)度工作。

架構(gòu)師（java&hadoop）職位描述與崗位職責(zé)任職要求

職位描述：

職責(zé)描述：

職責(zé)描述：

1.負(fù)責(zé)設(shè)計和搭建軟件系統(tǒng)架構(gòu)（平臺、數(shù)據(jù)庫、接口和應(yīng)用架構(gòu)等），解決開發(fā)中各種系統(tǒng)架構(gòu)問題。

2.優(yōu)化現(xiàn)有系統(tǒng)的性能，解決軟件系統(tǒng)平臺關(guān)鍵技術(shù)問題攻關(guān)、核心功能模塊設(shè)計。

3.在項(xiàng)目需求不斷細(xì)化的工程中校正整體的架構(gòu)設(shè)計，以及詳細(xì)模塊拆分設(shè)計。

4.營造技術(shù)學(xué)習(xí)氛圍，帶領(lǐng)團(tuán)隊(duì)不斷完善開發(fā)方法及流程，提升開發(fā)效率與質(zhì)量，加強(qiáng)技術(shù)標(biāo)準(zhǔn)及規(guī)范。

5.帶領(lǐng)團(tuán)隊(duì)攻克例如大數(shù)據(jù)量、高并發(fā)、高穩(wěn)定性等帶來的各種挑戰(zhàn)及技術(shù)難關(guān)。

6.參與討論公司產(chǎn)品發(fā)展方向，完整的規(guī)劃和把握產(chǎn)品研發(fā)架構(gòu)。

任職要求：

五年以上java開發(fā)經(jīng)驗(yàn)，有獨(dú)立完成項(xiàng)目經(jīng)驗(yàn)和能力；

1.精通springmvc+mybatis或ssh等框架的搭建和開發(fā)；

2.精通tomcat，apache，nginx等web服務(wù)器的管理和調(diào)優(yōu)；

3.精通mysql/mariadb或postgres數(shù)據(jù)庫的開發(fā)，管理和調(diào)優(yōu)；

4.熟練使用redis，rabbitmq，mongodb等相關(guān)或類似技術(shù)；

5.懂得node.js，jquery，h5，websocket，長鏈接，nio等技術(shù)；

6.熟練使用linux（centos/ubuntu)操作和管理；

7.擅長系統(tǒng)性能調(diào)優(yōu)和疑難問題調(diào)試；

8.熟悉oracle、hbase、hive等數(shù)據(jù)庫的開發(fā)優(yōu)化；

9.熟悉hadoop、spark等大數(shù)據(jù)平臺；

10.懂得構(gòu)建高性能高并發(fā)分布式服務(wù)架構(gòu)體系優(yōu)先；

11.懂的數(shù)據(jù)安全、應(yīng)用安全和系統(tǒng)安全可以加分；

12.具有團(tuán)隊(duì)合作精神、能帶隊(duì)和懂項(xiàng)目管理可以加分。

hadoopsre工程師職位描述與崗位職責(zé)任職要求

職位描述：

工作職責(zé)：

1、參與打造業(yè)界領(lǐng)先的存儲、計算、消息隊(duì)列等分布式系統(tǒng)

2、為海量數(shù)據(jù)及其上的大規(guī)模數(shù)據(jù)挖掘、數(shù)據(jù)分析、機(jī)器學(xué)習(xí)業(yè)務(wù)系統(tǒng)提供可靠、高效的支持

3、深入了解業(yè)務(wù)需求，利用存儲技術(shù)支持關(guān)鍵業(yè)務(wù)場景

任職要求：

1、掌握分布式系統(tǒng)原理，對存儲、計算、消息隊(duì)列的一項(xiàng)或多項(xiàng)有深入的理解和認(rèn)識

2、樂于挑戰(zhàn)沒有明顯答案的問題，能快速理解業(yè)務(wù)場景，從具體問題中抽象出通用的解決方案

3、有較好的溝通能力；有良好的團(tuán)隊(duì)合作精神

hadoop工程師職位描述與崗位職責(zé)任職要求

職位描述：

崗位職責(zé)：

1.負(fù)責(zé)公司大數(shù)據(jù)平臺的hadoop技術(shù)棧研究，形成技術(shù)解決方案和整體的大數(shù)據(jù)架構(gòu)。

2.負(fù)責(zé)hadoop平臺（分布式存儲、分布式資源管理和調(diào)度、分布式計算等）的架構(gòu)研究、測試、優(yōu)化搭建工作；

3.負(fù)責(zé)探索，

研究新的

hadoop

生態(tài)中技術(shù)引擎，不斷擴(kuò)充平臺能力。

4.制定hadoop整體集群使用規(guī)范，規(guī)范的hadoop日常維護(hù)、異常處理等工作，保障集群穩(wěn)定、運(yùn)行規(guī)范解決方案

5.負(fù)責(zé)公司定制項(xiàng)目的大數(shù)據(jù)架構(gòu)的整體解決方案

6.負(fù)責(zé)各種行業(yè)大數(shù)據(jù)在不同應(yīng)用場景的最佳開發(fā)實(shí)踐，提供流計算、批處理分析、數(shù)據(jù)挖掘、bi分析等技術(shù)解決方案

任職資格：

1.三年以上hadoop集群架構(gòu)開發(fā)或架構(gòu)經(jīng)驗(yàn)。

2.精通hadoop架構(gòu)的設(shè)計以及生態(tài)，hadoop的集群的搭建、部署、開發(fā)和運(yùn)維

3.精通hadoop各個模塊的能力定位和配置，對hdfs、hbase、mr、spark等基本組件熟知

4.熟悉linux系統(tǒng)及調(diào)錯經(jīng)驗(yàn)，熟悉

jvm

運(yùn)行機(jī)制，有

shell、python開發(fā)經(jīng)驗(yàn)。

5.有鉆研新技術(shù)的熱情和能力，善于交流和表達(dá)，富有團(tuán)隊(duì)精神

6.有企業(yè)級大數(shù)據(jù)系統(tǒng)設(shè)計經(jīng)驗(yàn)者優(yōu)先。

7.有一定的代碼經(jīng)驗(yàn)，python/java/c++/ruby均可。

hadoop開發(fā)工程師b02職位描述與崗位職責(zé)任職要求

職位描述：

崗位職責(zé)：

1.參與人工智能開源開放平臺核心系統(tǒng)的構(gòu)建；

2.人工智能開源開放平臺相關(guān)前沿技術(shù)、運(yùn)用調(diào)研及落地；

3.負(fù)責(zé)人工智能開源開放平臺性能的優(yōu)化。

任職要求：

1.國內(nèi)學(xué)歷：統(tǒng)招全日制985/211碩士及以上學(xué)歷，取得學(xué)位證和畢業(yè)證；

2.國外學(xué)歷：海外全日制碩士及以上學(xué)歷；qs世界大學(xué)排名前300高等院校；海外留學(xué)時長不少于1.5年；

3.有大型互聯(lián)網(wǎng)公司大數(shù)據(jù)平臺及數(shù)據(jù)開發(fā)經(jīng)驗(yàn)者優(yōu)先；

4.扎實(shí)的java、python基礎(chǔ)，掌握常用數(shù)據(jù)結(jié)構(gòu)（鏈表、哈希、樹）等；

5.精通linux/unix環(huán)境，熟悉linux性能調(diào)優(yōu)，熟練掌握shell，有良好的計算機(jī)網(wǎng)絡(luò)基礎(chǔ)；

6.有較強(qiáng)的產(chǎn)品理解，能從技術(shù)角度推動產(chǎn)品優(yōu)化；

7.有如下技能者優(yōu)先，spark/sparkstreaming/hadoop/hdfs/kafka/elasticsearch；

8.英語6級，能讀懂相關(guān)外文技術(shù)文獻(xiàn)。

高級hadoop開發(fā)工程師職位描述與崗位職責(zé)任職要求

職位描述：

職責(zé)描述：

1，基于hadoop進(jìn)行mapreduce、hive和hbase的應(yīng)用開發(fā)；

2，維護(hù)和管理大規(guī)模hadoop集群，解決不斷增長的海量數(shù)據(jù)帶來的存儲和計算挑戰(zhàn)；

3，大數(shù)據(jù)平臺數(shù)據(jù)清洗、轉(zhuǎn)換和建模的開發(fā)。

任職要求：

1，熟悉hadoop/hbase/spark/hive生態(tài)環(huán)境體系的搭建和管理，掌握hadoop、hbase、mapreduce、hdfs、hive、kylin、zookeeper等開源項(xiàng)目的原理和使用方法，具有實(shí)際集群搭建和調(diào)優(yōu)經(jīng)驗(yàn)；

2，熟悉并有java開發(fā)經(jīng)驗(yàn)，有大平臺架構(gòu)開發(fā)經(jīng)驗(yàn)；

3，掌握至少一種nosql數(shù)據(jù)庫，具有真正項(xiàng)目使用經(jīng)驗(yàn)；

4，掌握數(shù)據(jù)分析的基本流程，擅長數(shù)據(jù)采集、清洗、分析等環(huán)節(jié)；

5，熟悉后端服務(wù)（restfulapi服務(wù)實(shí)現(xiàn)）優(yōu)先；

6，熟悉使用sqlserver、oracle、mysql一種；

7，良好團(tuán)隊(duì)協(xié)作和溝通能力；

8，大專及以上學(xué)歷，3-5年及以上工作經(jīng)驗(yàn)。

hadoop程序員崗位職責(zé)

職責(zé)

搭建和維護(hù)hadoop數(shù)據(jù)分析平臺

協(xié)助研究r與hadoop結(jié)合實(shí)施大數(shù)據(jù)挖掘

依據(jù)分析挖掘方案,建立模型、生成分析結(jié)果、統(tǒng)計表、圖和列表等的程序代碼。

協(xié)助項(xiàng)目團(tuán)隊(duì)負(fù)責(zé)人履行項(xiàng)目職責(zé)。

能力和技能

熟悉linux操作系統(tǒng)、java、hadoop的運(yùn)營及算法。

具備基本的統(tǒng)計編程知識,例如r、basesas、sas/stat、sas宏語言、sql。

具備一定的溝通能力。

具備有效處理多任務(wù)的能力。

具備一定的計算能力及發(fā)現(xiàn)細(xì)節(jié)的能力。

具備團(tuán)隊(duì)合作能力。

學(xué)歷和經(jīng)驗(yàn)要求:

計算機(jī)、數(shù)學(xué)專業(yè)學(xué)士學(xué)歷及以上,或同等教育背景并具有統(tǒng)計編程經(jīng)驗(yàn);有hadoop運(yùn)營經(jīng)驗(yàn)、hadoop算法經(jīng)驗(yàn)者優(yōu)先。

hadoop運(yùn)維崗位職責(zé)

hadoop運(yùn)維工程師杭州麥歌算法科技有限公司杭州麥歌算法科技有限公司,麥歌算法,麥歌算法

任職要求:職位描述:

1.根據(jù)業(yè)務(wù)需求和落地環(huán)境確定大數(shù)據(jù)平臺的方案和具體搭建

2.負(fù)責(zé)大數(shù)據(jù)平臺及相關(guān)業(yè)務(wù)系統(tǒng)的(hadoop/spark/elasticsearch/zeppelin/jupyter等)的運(yùn)維工作

3.對大數(shù)據(jù)基礎(chǔ)平臺系統(tǒng)穩(wěn)定性負(fù)責(zé),負(fù)責(zé)故障應(yīng)急響應(yīng)及指揮,做好故障發(fā)現(xiàn)和預(yù)防,為其持續(xù)優(yōu)化提供建設(shè)性意見

4.與數(shù)據(jù)組合作,幫助處理優(yōu)化項(xiàng)目中數(shù)據(jù)處理工作(數(shù)據(jù)采集、清洗、匯總、集成等),保證數(shù)據(jù)的準(zhǔn)確性和穩(wěn)定性

崗位要求:

1.精通scala或python至少一門編程語言,兩種都熟悉優(yōu)先

2.精通shell腳本編程

3.熟悉hadoop/hive/hbase/spark等分布式計算環(huán)境進(jìn)行海量數(shù)據(jù)分析與計算;

4.做過數(shù)據(jù)倉庫,對數(shù)據(jù)治理、數(shù)據(jù)標(biāo)準(zhǔn)及元數(shù)據(jù)有很好理念及實(shí)施經(jīng)驗(yàn)的優(yōu)先;

5.熟悉devops等自動化運(yùn)維工具;

6.有過10臺以上集群運(yùn)維的經(jīng)驗(yàn)

7.良好的溝通能力和團(tuán)隊(duì)精神,具備創(chuàng)新意識;

8.以結(jié)果為導(dǎo)向,具有強(qiáng)烈的責(zé)任心、鉆研精神和良好的團(tuán)隊(duì)溝通能力。

關(guān)鍵詞:hadoopspark

大數(shù)據(jù)基礎(chǔ)架構(gòu)工程師（hadoop）職位描述與崗位職責(zé)任職要求

職位描述：

工作職責(zé)：

1、打造業(yè)界領(lǐng)先的大數(shù)據(jù)基礎(chǔ)設(shè)施，包括數(shù)據(jù)接入，同步，存儲、計算，查詢等環(huán)節(jié)的分布式系統(tǒng)，為海量數(shù)據(jù)和大規(guī)模業(yè)務(wù)系統(tǒng)提供可靠的基礎(chǔ)設(shè)施；

2、與開源社區(qū)保持交流，發(fā)現(xiàn)對業(yè)務(wù)場景有幫助的特性并引入生產(chǎn)環(huán)境，或?qū)⒔?jīng)內(nèi)部驗(yàn)證的特性貢獻(xiàn)到社區(qū)；

3、承擔(dān)千臺規(guī)模集群的管理工作，與業(yè)務(wù)一起解決性能優(yōu)化、容量規(guī)劃、預(yù)算審計等問題，保障集群高效穩(wěn)定經(jīng)濟(jì)運(yùn)行；

任職資格：

1、計算機(jī)基礎(chǔ)扎實(shí)，熟悉常用數(shù)據(jù)結(jié)構(gòu)和算法，具備較強(qiáng)的邏輯思維能力和編碼能力；

2、掌握分布式系統(tǒng)原理，對存儲、計算、消息隊(duì)列、資源管理，數(shù)據(jù)同步等中的一項(xiàng)或多項(xiàng)有深入的理解和認(rèn)識；

3、樂于挑戰(zhàn)沒有明顯答案的問題，能快速理解業(yè)務(wù)場景，從具體問題中抽象出通用的解決方案；

4，熟悉hadoop，hbase，zookeeper，flume，k8s等基礎(chǔ)服務(wù)中的一項(xiàng)或多項(xiàng)；

5、有kafka或者同類型技術(shù)設(shè)計開發(fā)及集群管理經(jīng)驗(yàn)者優(yōu)先。

高級系統(tǒng)架構(gòu)師（hadoop/spark)職位描述與崗位職責(zé)任職要求

職位描述：

1.計算機(jī)及計算機(jī)相關(guān)專業(yè)本科或本科以上學(xué)歷；

2.十年以上開發(fā)工作經(jīng)驗(yàn)；

3.精通java編程，熟練掌握springcloud、springboot、springframework、springsecurity、springmvc、springdata、mybatis、hibernate、zookeeper等主流的開發(fā)框架，有良好的編程習(xí)慣。

4.精通大數(shù)據(jù)hadoop、spark、hbase、hive、kafka等產(chǎn)品技術(shù)及應(yīng)用開發(fā)。

5.精通多線程編程、分布式事務(wù)、存儲系統(tǒng)（如oracle、mongodb、redis等）的性能調(diào)優(yōu)和應(yīng)用開發(fā)；

6.具備優(yōu)秀的邏輯思維能力，對解決挑戰(zhàn)性問題充滿熱情，善于解決問題和分析問題；

7.有強(qiáng)烈的上進(jìn)心和求知欲，善于學(xué)習(xí)新事物，良好的團(tuán)隊(duì)合作精神，較強(qiáng)的溝通能力和學(xué)習(xí)能力。

hadoop高級開發(fā)工程師職位描述與崗位職責(zé)任職要求

職位描述：

崗位職責(zé)：

1、負(fù)責(zé)hadoop平臺上的數(shù)據(jù)存儲，數(shù)據(jù)維護(hù)和優(yōu)化；

2、編寫一些pig，hive等分析腳本；

3、負(fù)責(zé)把一些分析結(jié)果導(dǎo)入到數(shù)據(jù)庫中，為bi提供基礎(chǔ)數(shù)據(jù)分析；

4、hadoop集群問題排查，并提出解決方案；

5、job報錯問題排查；

6、根據(jù)集群的問題，開發(fā)一些監(jiān)控程序，解決隱患；

7、平臺工具開發(fā)或者提供第三方開源工具。

任職要求：

1、深入了解hadoop運(yùn)行機(jī)制，包括hdfs/mapreduce/zookeeper/yarn等工作原理。

2、了解分布式系統(tǒng)的原理。

3、負(fù)責(zé)hadoop平臺上的數(shù)據(jù)存儲，數(shù)據(jù)維護(hù)和優(yōu)化；

4、hadoop集群問題排查，并提出解決方案；

5、開發(fā)監(jiān)控程序，解決存在的隱患；

6、有hadoop平臺運(yùn)維經(jīng)驗(yàn)優(yōu)先。

7、有大數(shù)據(jù)平臺工具開發(fā)經(jīng)驗(yàn)。

hadoop研發(fā)工程師職位描述與崗位職責(zé)任職要求

職位描述：

崗位職責(zé)：

1.負(fù)責(zé)公司大數(shù)據(jù)平臺的hadoop技術(shù)棧研究，形成技術(shù)解決方案和整體的大數(shù)據(jù)架構(gòu)。

2.負(fù)責(zé)hadoop平臺（分布式存儲、分布式資源管理和調(diào)度、分布式計算等）的架構(gòu)研究、測試、優(yōu)化搭建工作；

3.負(fù)責(zé)探索，

研究新的

hadoop

生態(tài)中技術(shù)引擎，不斷擴(kuò)充平臺能力。

4.制定hadoop整體集群使用規(guī)范，規(guī)范的hadoop日常維護(hù)、異常處理等工作，保障集群穩(wěn)定、運(yùn)行規(guī)范解決方案

5.負(fù)責(zé)公司定制項(xiàng)目的大數(shù)據(jù)架構(gòu)的整體解決方案

6.負(fù)責(zé)各種行業(yè)大數(shù)據(jù)在不同應(yīng)用場景的最佳開發(fā)實(shí)踐，提供流計算、批處理分析、數(shù)據(jù)挖掘、bi分析等技術(shù)解決方案

任職資格：

1.三年以上hadoop集群架構(gòu)開發(fā)或架構(gòu)經(jīng)驗(yàn)。

2.精通hadoop架構(gòu)的設(shè)計以及生態(tài)，hadoop的集群的搭建、部署、開發(fā)和運(yùn)維

3.精通hadoop各個模塊的能力定位和配置，對hdfs、hbase、mr、spark等基本組件熟知

4.熟悉linux系統(tǒng)及調(diào)錯經(jīng)驗(yàn)，熟悉

jvm

運(yùn)行機(jī)制，有

shell、python開發(fā)經(jīng)驗(yàn)。

5.有鉆研新技術(shù)的熱情和能力，善于交流和表達(dá)，富有團(tuán)隊(duì)精神

6.有企業(yè)級大數(shù)據(jù)系統(tǒng)設(shè)計經(jīng)驗(yàn)者優(yōu)先。

7.有一定的代碼經(jīng)驗(yàn)，python/java/c++/ruby均可。

hadoop架構(gòu)師崗位職責(zé)

hadoop架構(gòu)師泰康在線財產(chǎn)保險股份有限公司泰康在線財產(chǎn)保險股份有限公司,泰康在線,泰康工作職責(zé):

1.負(fù)責(zé)搭建數(shù)據(jù)平臺、數(shù)據(jù)倉庫平臺、物聯(lián)網(wǎng)數(shù)據(jù)平臺、ai數(shù)據(jù)平臺,負(fù)責(zé)數(shù)據(jù)平臺架構(gòu)的整合、優(yōu)化、開發(fā)、部署實(shí)施、運(yùn)維相關(guān)工作,確保數(shù)據(jù)平臺穩(wěn)定運(yùn)行

2.主導(dǎo)搭建數(shù)據(jù)平臺(dw/ai/hadoop平臺等),提供數(shù)據(jù)接口對接、存儲、提取、處理、清洗、邏輯解析、規(guī)范化、iot設(shè)備互聯(lián)互通能力

3.具備java,sql開發(fā)經(jīng)驗(yàn),性能調(diào)測,開源代碼商業(yè)化,底層基礎(chǔ)架構(gòu)搭建

4.參與公司數(shù)據(jù)處理方向的技術(shù)拓展,保障公司業(yè)務(wù)的數(shù)據(jù)需求

5.負(fù)責(zé)數(shù)據(jù)平臺實(shí)時計算/分布式并行計算的架構(gòu)設(shè)計代碼編寫,及開源技術(shù)組件的二次開發(fā)

6.運(yùn)用hadoop/sparksql與sparkstreaming或者其它數(shù)據(jù)分析技術(shù),進(jìn)行包括需求分析,平臺選擇,技術(shù)構(gòu)架涉及等技術(shù)支持工作,確保能夠保障公司業(yè)務(wù)的數(shù)據(jù)需求

任職要求:

1.熟悉傳統(tǒng)數(shù)據(jù)倉庫,至少三年以上數(shù)據(jù)倉庫開發(fā)、構(gòu)建、運(yùn)維經(jīng)驗(yàn)

2.熟悉hadoop技術(shù)體系,有hadoop/spark架構(gòu)經(jīng)驗(yàn),有hadoop計算集群在實(shí)際項(xiàng)目上的開發(fā)和維護(hù)經(jīng)驗(yàn)

3.兩年以上基于hadoop/spark/hbase/hive等分布式數(shù)據(jù)計算應(yīng)用開發(fā)經(jīng)驗(yàn)

4.熟悉數(shù)據(jù)平臺數(shù)據(jù)同步技術(shù),如:ogg,cdc,sqoop等,并有實(shí)際經(jīng)驗(yàn)

5.熟悉大數(shù)據(jù)大數(shù)據(jù)性能優(yōu)化,并有實(shí)際項(xiàng)目經(jīng)驗(yàn)

6.熟悉apachemahout/sparkmlib的各種算法

7.精通java,熟練掌握mapreduce原理以及數(shù)據(jù)分析相關(guān)的二次開發(fā)

8.熟悉linux/unix,熟悉perl/python/shell等腳本開發(fā)語言

9.了解敏捷開發(fā)流程,有敏捷開發(fā)經(jīng)驗(yàn)者優(yōu)先

10.良好的數(shù)據(jù)結(jié)構(gòu)和算法基礎(chǔ),有較強(qiáng)的算法設(shè)計和實(shí)現(xiàn)能力

11.本科以上學(xué)歷,計算機(jī)及相關(guān)專業(yè)

hadoop高級工程師職位描述與崗位職責(zé)任職要求

職位描述：

崗位職責(zé)：

職位描述：

1、hadoop產(chǎn)品功能設(shè)計、開發(fā)與測試、性能優(yōu)化，根據(jù)項(xiàng)目具體要求，承擔(dān)開發(fā)任務(wù)，按計劃完成任務(wù)目標(biāo)

2、負(fù)責(zé)編制與項(xiàng)目相關(guān)的技術(shù)文檔。

任職要求：

1、計算機(jī)相關(guān)專業(yè)，本科及以上學(xué)歷，2年以上hadoop開發(fā)工作經(jīng)驗(yàn)；

2、熟練使用linux系統(tǒng)，熟悉內(nèi)核和shell腳本編寫，能夠在linux環(huán)境下進(jìn)行開發(fā)工作；

3、熟練使用java語言進(jìn)行開發(fā)；

4、熟悉分布式文件系的設(shè)計和使用，調(diào)試優(yōu)化過hdfs文件系統(tǒng)者優(yōu)先；

5、良好的代碼開發(fā)風(fēng)格及開發(fā)習(xí)慣，學(xué)習(xí)能力、溝通能力，英文資料閱讀和理解能力；

6、參與過hadoop社區(qū)貢獻(xiàn)者優(yōu)先；

以下要求至少滿足其中1項(xiàng)：

7、熟悉hadoop的架構(gòu)和原理，以及參數(shù)調(diào)優(yōu)和性能優(yōu)化，了解partition，shuffle，sort等機(jī)制。

8、有設(shè)計，調(diào)試或者優(yōu)化類似hdfs文件系統(tǒng)經(jīng)驗(yàn)；

工作地點(diǎn)：南京

hadoop運(yùn)維工程師職位描述與崗位職責(zé)任職要求

職位描述：

職責(zé)描述：

1.kafka集群、spark、hive、hbase、hadoop平臺運(yùn)維；

2.獨(dú)立完成運(yùn)維過程中問題定位、問題解決、并進(jìn)行總結(jié)文檔編寫；

3.參與大數(shù)據(jù)平臺etl處理，合理規(guī)劃大數(shù)據(jù)資源，提高大數(shù)據(jù)平臺資源利用率，負(fù)責(zé)基于大數(shù)據(jù)平臺的開發(fā)和基礎(chǔ)建設(shè)；

4.負(fù)責(zé)大數(shù)據(jù)平臺相關(guān)系統(tǒng)的運(yùn)維工作；

5.跟蹤大數(shù)據(jù)論壇社區(qū)新技術(shù)發(fā)展，持續(xù)更新技術(shù)資源，挖掘更多應(yīng)用場景。

任職要求：

1.統(tǒng)招本科以上學(xué)歷，3年以上大數(shù)據(jù)開發(fā)經(jīng)驗(yàn)；

2.熟悉hadoop、spark、kafka等技術(shù)，對底層架構(gòu)有深入了解，有基于底層架構(gòu)進(jìn)行開發(fā)者優(yōu)先考慮，精通linux腳本，熟悉linux腳本開發(fā)；

3.掌握flink/kylin/presto/elasticsearch/redis等一種或多種技術(shù)優(yōu)先；精通hive、hbase數(shù)據(jù)庫開發(fā)，對其底層架構(gòu)有深入研究者優(yōu)先考慮；

4.熟悉數(shù)據(jù)架構(gòu)，對數(shù)據(jù)處理有深入理解。熟悉掌握java/python/scala開發(fā)語言；

5.性格樂觀，積極主動，能夠主動承擔(dān)責(zé)任和解決實(shí)際問題。

hadoop運(yùn)維