崗位職責(zé):
1、負(fù)責(zé)公司大數(shù)據(jù)平臺的功能開發(fā)。根據(jù)設(shè)計方案的要求進(jìn)行大數(shù)據(jù)平臺的架構(gòu)建設(shè)和功能開發(fā),包括分布式存儲系統(tǒng)、分布式計算系統(tǒng)、在線離線數(shù)據(jù)處理、數(shù)據(jù)ETL、數(shù)據(jù)挖掘、數(shù)據(jù)可視化等,并輸出相應(yīng)的代碼和文檔。
2、負(fù)責(zé)公司大數(shù)據(jù)平臺與第三方系統(tǒng)的對接。根據(jù)項(xiàng)目要求對公司內(nèi)部系統(tǒng)或外部第三方系統(tǒng)進(jìn)行對接,對采集到的數(shù)據(jù)進(jìn)行處理、存儲等工作。
3、負(fù)責(zé)公司大數(shù)據(jù)平臺性能優(yōu)化。采用數(shù)據(jù)建模的方式對現(xiàn)有的算法進(jìn)行優(yōu)化,提升大數(shù)據(jù)平臺的性能。
4、負(fù)責(zé)移動大數(shù)據(jù)平臺與產(chǎn)品和相關(guān)技術(shù)的研究;
崗位要求:
1、3年以上大數(shù)據(jù)開發(fā)經(jīng)驗(yàn),熟悉?Hadoop?生態(tài)相關(guān)技術(shù)例;如?HDFS/MapReduce/Hive/HBase、熟悉Spark?Streaming和Spark?SQL?或者Flink;
2、熟練掌握Linux操作系統(tǒng),熟悉shell等腳本編程;
3、熟悉Jave/Scala/Python中的一種或幾種語言;
4、熟悉分布式系統(tǒng)的設(shè)計和應(yīng)用,熟悉分布式、緩存、消息等機(jī)制,掌握多線程及高性能的設(shè)計與編碼及性能調(diào)優(yōu),有高并發(fā)應(yīng)用開發(fā)經(jīng)驗(yàn);
5、對數(shù)據(jù)敏感,有數(shù)據(jù)分析、數(shù)據(jù)挖掘經(jīng)驗(yàn)者優(yōu)先;
6、有大型數(shù)據(jù)倉庫實(shí)施、大數(shù)據(jù)平臺數(shù)據(jù)開發(fā)經(jīng)驗(yàn)者優(yōu)先;