現(xiàn)在已經(jīng)進入了大數(shù)據(jù)時代，哈佛大學(xué)社會學(xué)教授加里·金說：“這是一場革命，龐大的數(shù)據(jù)資源使得各個領(lǐng)域開始了量化進程，無論學(xué)術(shù)界、商界還是政府，所有領(lǐng)域都將開始這種進程。” 目前很火，數(shù)據(jù)源頭，各種炫酷新技術(shù)，搭建hadoop、Hive、Spark、Kylin、Druid、Beam~，前提是你要懂Java，很多平臺都是用Java開發(fā)的.這里面要解決的是實時、近實時和離線的大數(shù)據(jù)框架如何搭建，各數(shù)據(jù)流之間如何耦合和解耦我是一名大數(shù)據(jù)程序員，建了一個大數(shù)據(jù)資源共享群593188212 每天分享大數(shù)據(jù)學(xué)習(xí)資料和學(xué)習(xí)路線，如何進行容災(zāi)、平臺穩(wěn)定、可用是需要重點考慮的。 在大數(shù)據(jù)商品化之前, 利用大數(shù)據(jù)分析工具和技術(shù)來取得競爭優(yōu)勢已不再是秘密。2018年, 如果你還在職場上尋找大數(shù)據(jù)的相關(guān)工作, 那么, 這里介紹的9種技能，將幫助你得到一個工作機會。
Apache Hadoop
Hadoop現(xiàn)在已經(jīng)進入第二個10年發(fā)展期了, 但不可否認的是, Hadoop在2017年出現(xiàn)了井噴式發(fā)展, 由于Hadoop從測試集群向生產(chǎn)和軟件供應(yīng)商方向不斷轉(zhuǎn)移, 其越來越接近于分布式存儲和處理機架構(gòu), 因此, 這一勢頭在2018年會更加猛烈。由于大數(shù)據(jù)平臺的強大, Hadoop可能是一個挑剔的怪獸, 它需要熟悉的技術(shù)人員細心的照顧和喂養(yǎng)。掌握Hadoop最核心技術(shù) (例如, HDFS, MapReduce, Flume, Oozie, Hive, Pig, HBase, and YARN) 的技術(shù)人員在職場上的需求將越來越大。
Apache Spark
如果說Hadoop在大數(shù)據(jù)世界中已廣為人知, 那么Spark就是一匹黑馬, 它所蘊含的原始潛力使Hadoop黯然失色。無論是否是Hadoop架構(gòu), 快速崛起的內(nèi)存計算技術(shù)被認為是MapReduce風(fēng)格分析框架更快和更簡潔的替代方案。Spark的定位應(yīng)當(dāng)是大數(shù)據(jù)技術(shù)族中重要的一個成員。Spark仍然需要專業(yè)技術(shù)進行編程和運行, 這為知曉該技術(shù)的工程師提供了不錯的工作機會。
NoSQL
在大數(shù)據(jù)的操作層面, 諸如 MongoDB 和 Couchbase 等分布式、可擴展的 NoSQL 數(shù)據(jù)庫正在接管市場份額極為龐大的的 SQL 數(shù)據(jù)庫, 例如 Oracle 和 IBM DB2。在 WEB 和移動 app層面, NoSQL數(shù)據(jù)庫常常被做為Hadoop分析的數(shù)據(jù)源。在大數(shù)據(jù)領(lǐng)域, Hadoop 和 NoSQL 分別成為良性循環(huán)的兩個端點。
Machine Learning and Data Mining（機器學(xué)習(xí)和數(shù)據(jù)挖掘）
人們習(xí)慣于對收集的數(shù)據(jù)進行挖掘，但是, 在當(dāng)今大數(shù)據(jù)的世界里, 數(shù)據(jù)挖掘已經(jīng)達到了一個全新的高度。機器學(xué)習(xí)成為去年大數(shù)據(jù)技術(shù)最熱門的領(lǐng)域之一, 2018年順理成章地成為它的突破之年。大數(shù)據(jù)將會使那些能夠利用機器學(xué)習(xí)技術(shù)去構(gòu)建和訓(xùn)練像分類、推薦和個性化系統(tǒng)等預(yù)測分析應(yīng)用程序的人成為職場寵兒, 取得就業(yè)市場上的薪金。
Statistical and Quantitative Analysis(統(tǒng)計和定量分析)
這就是大數(shù)據(jù)。如果你有定量推理背景和數(shù)學(xué)或統(tǒng)計學(xué)等方面的學(xué)位,那么你就成功了一半。此外,再加上一些使用統(tǒng)計工具經(jīng)驗,例如 R, SAS, Matlab, SPSS, 或者是 Stata, 你就能夠鎖定這些工作崗位啦。在過去,許多量化工程師都會選擇在華爾街工作, 但由于大數(shù)據(jù)的快速發(fā)展, 現(xiàn)在各行各樣都需要大量的具有定量分析背景的 極客。
SQL
以數(shù)據(jù)為中心的語言已有超過40年的歷史了, 但是這種祖父級的語言在當(dāng)前的大數(shù)據(jù)時代仍然具有生命力。盡管它難以應(yīng)對大數(shù)據(jù)的挑戰(zhàn) (見上文NoSQL部分), 但是, 簡化了的結(jié)構(gòu)化語言使其在許多方面變得十分容易。
Data Visualization（數(shù)據(jù)可視化）
大數(shù)據(jù)可能不是那么容易理解, 但在某些情況下, 通過鮮活的數(shù)據(jù)吸引眼球仍然是不可替代的方法。你可以一直用多元或邏輯回歸分析方法解析數(shù)據(jù), 但是, 有時候使用類似 Tableau 或Qlikview 這樣的可視化工具探索數(shù)據(jù)樣本能夠直觀的告訴你所擁有的數(shù)據(jù)的形態(tài), 甚至是發(fā)現(xiàn)那些能夠改變你處理數(shù)據(jù)方法的一些隱蔽細節(jié)。當(dāng)然，如果你長大后想成為數(shù)據(jù)藝術(shù)家, 那么, 精通一個甚至是更多的可視化工具就是必不可少的了。
General Purpose Programming Languages
在類似 Java, C, Python, 或 Scala 等通用語言中擁有編程應(yīng)用經(jīng)驗?zāi)軌蚴鼓阆鄬τ谀切┚窒抻诜治黾夹g(shù)的人更具有優(yōu)勢。根據(jù) Wanted Analytics的統(tǒng)計, 招聘具有數(shù)據(jù)分析背景的“計算機編程”職位的數(shù)量增長了 337%。具有傳統(tǒng)應(yīng)用程序開發(fā)和新興數(shù)據(jù)分析能力的人將會有極大的就業(yè)選擇空間, 能夠自由的在終端用戶企業(yè)和大數(shù)據(jù)創(chuàng)業(yè)公司之間進行流動。
Creativity and Problem Solving（創(chuàng)造力和問題解決能力）
無論你在高級分析工具和技術(shù)方面有多大優(yōu)勢,自主思考能力仍然是無可替代 的。大數(shù)據(jù)處理工具會不可避免的進行演化發(fā)展,新技術(shù)會不斷涌現(xiàn)并替代這里所列 出的技術(shù)。但是,如果你能出于本能的渴求新的知識,并且能夠像獵犬一樣發(fā)現(xiàn)問題 的解決方案,就會有大量的工作機會在等著你。
