在維克托·邁爾-舍恩伯格及肯尼斯·庫克耶編寫的《大數據時代》中大數據指不用隨機分析法(抽樣調查)這樣捷徑,而采用所有數據進行分析處理。大數據的5V特點(IBM提出):Volume(大量)、Velocity(高速)、Variety(多樣)、Value(低價值密度)、Veracity(真實性)。
對于“大數據”(Big data)研究機構Gartner給出了這樣的定義。“大數據”是需要新處理模式才能具有更強的決策力、洞察發(fā)現力和流程優(yōu)化能力來適應海量、高增長率和多樣化的信息資產。
麥肯錫全球研究所給出的定義是:一種規(guī)模大到在獲取、存儲、管理、分析方面大大超出了傳統(tǒng)數據庫軟件工具能力范圍的數據集合,具有海量的數據規(guī)模、快速的數據流轉、多樣的數據類型和價值密度低四大特征。
大數據技術的戰(zhàn)略意義不在于掌握龐大的數據信息,而在于對這些含有意義的數據進行專業(yè)化處理。換而言之,如果把大數據比作一種產業(yè),那么這種產業(yè)實現盈利的關鍵,在于提高對數據的“加工能力”,通過“加工”實現數據的“增值”。
從技術上看,大數據與云計算的關系就像一枚硬幣的正反面一樣密不可分。大數據必然無法用單臺的計算機進行處理,必須采用分布式架構。它的特色在于對海量數據進行分布式數據挖掘。但它必須依托云計算的分布式處理、分布式數據庫和云存儲、虛擬化技術。
隨著云時代的來臨,大數據(Big data)也吸引了越來越多的關注。分析師團隊認為,大數據(Big data)通常用來形容一個公司創(chuàng)造的大量非結構化數據和半結構化數據,這些數據在下載到關系型數據庫用于分析時會花費過多時間和金錢。大數據分析常和云計算聯(lián)系到一起,因為實時的大型數據集分析需要像MapReduce一樣的框架來向數十、數百或甚至數千的電腦分配工作。
大數據需要特殊的技術,以有效地處理大量的容忍經過時間內的數據。適用于大數據的技術,包括大規(guī)模并行處理(MPP)數據庫、數據挖掘、分布式文件系統(tǒng)、分布式數據庫、云計算平臺、互聯(lián)網和可擴展的存儲系統(tǒng)。
最小的基本單位是bit,按順序給出所有單位:bit、Byte、KB、MB、GB、TB、PB、EB、ZB、YB、BB、NB、DB。
它們按照進率1024(2的十次方)來計算:
1 Byte =8 bit
1 KB = 1,024 Bytes = 8192 bit
1 MB = 1,024 KB = 1,048,576 Bytes
1 GB = 1,024 MB = 1,048,576 KB
1 TB = 1,024 GB = 1,048,576 MB
1 PB = 1,024 TB = 1,048,576 GB
1 EB = 1,024 PB = 1,048,576 TB
1 ZB = 1,024 EB = 1,048,576 PB
1 YB = 1,024 ZB = 1,048,576 EB
1 BB = 1,024 YB = 1,048,576 ZB
1 NB = 1,024 BB = 1,048,576 YB
1 DB = 1,024 NB = 1,048,576 BB
全稱:
1 Bit(比特) =Binary Digit
8Bits = 1 Byte(字節(jié))
1,000 Bytes = 1 Kilobyte
1,000Kilobytes = 1 Megabyte
1,000 Megabytes = 1 Gigabyte
1,000 Gigabytes = 1Terabyte
1,000 Terabytes = 1 Petabyte
1,000 Petabytes = 1 Exabyte
1,000Exabytes = 1 Zettabyte
1,000 Zettabytes = 1 Yottabyte
1,000 Yottabytes = 1Brontobyte
1,000 Brontobytes = 1 Geopbyte
特征
容量(Volume):數據的大小決定所考慮的數據的價值和潛在的信息;
種類(Variety):數據類型的多樣性;
速度(Velocity):指獲得數據的速度;
可變性(Variability):妨礙了處理和有效地管理數據的過程。
真實性(Veracity):數據的質量
復雜性(Complexity):數據量巨大,來源多渠道
價值(value):合理運用大數據,以低成本創(chuàng)造高價值
結構
大數據包括結構化、半結構化和非結構化數據,非結構化數據越來越成為數據的主要部分。據IDC的調查報告顯示:企業(yè)中80%的數據都是非結構化數據,這些數據每年都按指數增長60%。大數據就是互聯(lián)網發(fā)展到現今階段的一種表象或特征而已,沒有必要神話它或對它
保持敬畏之心,在以云計算為代表的技術創(chuàng)新大幕的襯托下,這些原本看起來很難收集和使用的數據開始容易被利用起來了,通過各行各業(yè)的不斷創(chuàng)新,大數據會逐步為人類創(chuàng)造更多的價值。
其次,想要系統(tǒng)的認知大數據,必須要全面而細致的分解它,著手從三個層面來展開:
第一層面是理論,理論是認知的必經途徑,也是被廣泛認同和傳播的基線。在這里從大數據的特征定義理解行業(yè)對大數據的整體描繪和定性;從對大數據價值的探討來深入解析大數據的珍貴所在;洞悉大數據的發(fā)展趨勢;從大數據隱私這個特別而重要的視角審視人和數據之間的長久博弈。
第二層面是技術,技術是大數據價值體現的手段和前進的基石。在這里分別從云計算、分布式處理技術、存儲技術和感知技術的發(fā)展來說明大數據從采集、處理、存儲到形成結果的整個過程。
第三層面是實踐,實踐是大數據的最終價值體現。在這里分別從互聯(lián)網的大數據,政府的大數據,企業(yè)的大數據和個人的大數據四個方面來描繪大數據已經展現的美好景象及即將實現的藍圖。
應用
洛杉磯警察局和加利福尼亞大學合作利用大數據預測犯罪的發(fā)生。
google流感趨勢(Google Flu Trends)利用搜索關鍵詞預測禽流感的散布。
統(tǒng)計學家內特.西爾弗(Nate Silver)利用大數據預測2012美國選舉結果。
麻省理工學院利用手機定位數據和交通數據建立城市規(guī)劃。
梅西百貨的實時定價機制。根據需求和庫存的情況,該公司基于SAS的系統(tǒng)對多達7300萬種貨品進行實時調價。
醫(yī)療行業(yè)早就遇到了海量數據和非結構化數據的挑戰(zhàn),而近年來很多國家都在積極推進醫(yī)療信息化發(fā)展,這使得很多醫(yī)療機構有資金來做大數據分析。
意義
現在的社會是一個高速發(fā)展的社會,科技發(fā)達,信息流通,人們之間的交流越來越密切,生活也越來越方便,大數據就是這個高科技時代的產物。阿里巴巴創(chuàng)辦人馬云來臺演講中就提到,未來的時代將不是IT時代,而是DT的時代,DT就是Data Technology數據科技,顯示大數據對于阿里巴巴集團來說舉足輕重。
有人把數據比喻為蘊藏能量的煤礦。煤炭按照性質有焦煤、無煙煤、肥煤、貧煤等分類,而露天煤礦、深山煤礦的挖掘成本又不一樣。與此類似,大數據并不在“大”,而在于“有用”。價值含量、挖掘成本比數量更為重要。對于很多行業(yè)而言,如何利用這些大規(guī)模數據是贏得競爭的關鍵。
大數據的價值體現在以下幾個方面:
1)對大量消費者提供產品或服務的企業(yè)可以利用大數據進行精準營銷
2) 做小而美模式的中小微企業(yè)可以利用大數據做服務轉型
3) 面臨互聯(lián)網壓力之下必須轉型的傳統(tǒng)企業(yè)需要與時俱進充分利用大數據的價值
不過,“大數據”在經濟發(fā)展中的巨大意義并不代表其能取代一切對于社會問題的理性思考,科學發(fā)展的邏輯不能被湮沒在海量數據中。著名經濟學家路德維希·馮·米塞斯曾提醒過:“就今日言,有很多人忙碌于資料之無益累積,以致對問題之說明與解決,喪失了其對特殊的經濟意義的了解。”這確實是需要警惕的。
在這個快速發(fā)展的智能硬件時代,困擾應用開發(fā)者的一個重要問題就是如何在功率、覆蓋范圍、傳輸速率和成本之間找到那個微妙的平衡點。企業(yè)組織利用相關數據和分析可以幫助它們降低成本、提高效率、開發(fā)新產品、做出更明智的業(yè)務決策等等。例如,通過結合大數據和高性能的分析,下面這些對企業(yè)有益的情況都可能會發(fā)生:
1)及時解析故障、問題和缺陷的根源,每年可能為企業(yè)節(jié)省數十億美元。
2)為成千上萬的快遞車輛規(guī)劃實時交通路線,躲避擁堵。
3)分析所有SKU,以利潤最大化為目標來定價和清理庫存。
4)根據客戶的購買習慣,為其推送他可能感興趣的優(yōu)惠信息。
5)從大量客戶中快速識別出金牌客戶。
6)使用點擊流分析和數據挖掘來規(guī)避欺詐行為。
趨勢
趨勢一:數據的資源化
何為資源化,是指大數據成為企業(yè)和社會關注的重要戰(zhàn)略資源,并已成為大家爭相搶奪的新焦點。因而,企業(yè)必須要提前制定大數據營銷戰(zhàn)略計劃,搶占市場先機。
趨勢二:與云計算的深度結合
大數據離不開云處理,云處理為大數據提供了彈性可拓展的基礎設備,是產生大數據的平臺之一。自2013年開始,大數據技術已開始和云計算技術緊密結合,預計未來兩者關系將更為密切。除此之外,物聯(lián)網、移動互聯(lián)網等新興計算形態(tài),也將一齊助力大數據革命,讓大數據營銷發(fā)揮出更大的影響力。
趨勢三:科學理論的突破
隨著大數據的快速發(fā)展,就像計算機和互聯(lián)網一樣,大數據很有可能是新一輪的技術革命。隨之興起的數據挖掘、機器學習和人工智能等相關技術,可能會改變數據世界里的很多算法和基礎理論,實現科學技術上的突破。
趨勢四:數據科學和數據聯(lián)盟的成立
未來,數據科學將成為一門專門的學科,被越來越多的人所認知。各大高校將設立專門的數據科學類專業(yè),也會催生一批與之相關的新的就業(yè)崗位。與此同時,基于數據這個基礎平臺,也將建立起跨領域的數據共享平臺,之后,數據共享將擴展到企業(yè)層面,并且成為未來產業(yè)的核心一環(huán)。
趨勢五:數據泄露泛濫
未來幾年數據泄露事件的增長率也許會達到100%,除非數據在其源頭就能夠得到安全保障??梢哉f,在未來,每個財富500強企業(yè)都會面臨數據攻擊,無論他們是否已經做好安全防范。而所有企業(yè),無論規(guī)模大小,都需要重新審視今天的安全定義。在財富500強企業(yè)中,超過50%將會設置首席信息安全官這一職位。企業(yè)需要從新的角度來確保自身以及客戶數據,所有數據在創(chuàng)建之初便需要獲得安全保障,而并非在數據保存的最后一個環(huán)節(jié),僅僅加強后者的安全措施已被證明于事無補。
趨勢六:數據管理成為核心競爭力
數據管理成為核心競爭力,直接影響財務表現。當“數據資產是企業(yè)核心資產”的概念深入人心之后,企業(yè)對于數據管理便有了更清晰的界定,將數據管理作為企業(yè)核心競爭力,持續(xù)發(fā)展,戰(zhàn)略性規(guī)劃與運用數據資產,成為企業(yè)數據管理的核心。數據資產管理效率與主營業(yè)務收入增長率、銷售收入增長率顯著正相關;此外,對于具有互聯(lián)網思維的企業(yè)而言,數據資產競爭力所占比重為36.8%,數據資產的管理效果將直接影響企業(yè)的財務表現。
趨勢七:數據質量是BI(商業(yè)智能)成功的關鍵
采用自助式商業(yè)智能工具進行大數據處理的企業(yè)將會脫穎而出。其中要面臨的一個挑戰(zhàn)是,很多數據源會帶來大量低質量數據。想要成功,企業(yè)需要理解原始數據與數據分析之間的差距,從而消除低質量數據并通過BI獲得更佳決策。
趨勢八:數據生態(tài)系統(tǒng)復合化程度加強
大數據的世界不只是一個單一的、巨大的計算機網絡,而是一個由大量活動構件與多元參與者元素所構成的生態(tài)系統(tǒng),終端設備提供商、基礎設施提供商、網絡服務提供商、網絡接入服務提供商、數據服務使能者、數據服務提供商、觸點服務、數據服務零售商等等一系列的參與者共同構建的生態(tài)系統(tǒng)。而今,這樣一套數據生態(tài)系統(tǒng)的基本雛形已然形成,接下來的發(fā)展將趨向于系統(tǒng)內部角色的細分,也就是市場的細分;系統(tǒng)機制的調整,也就是商業(yè)模式的創(chuàng)新;系統(tǒng)結構的調整,也就是競爭環(huán)境的調整等等,從而使得數據生態(tài)系統(tǒng)復合化程度逐漸增強。
IT分析工具
大數據概念應用到IT操作工具產生的數據中,大數據可以使IT管理軟件供應商解決大廣泛的業(yè)務決策。IT系統(tǒng)、應用和技術基礎設施每天每秒都在產生數據。大數據非結構化或者結構數據都代表了‘所有用戶的行為、服務級別、安全、風險、欺詐行為等更多操作’的絕對記錄。
大數據分析的產生旨在于IT管理,企業(yè)可以將實時數據流分析和歷史相關數據相結合,然后大數據分析并發(fā)現它們所需的模型。反過來,幫助預測和預防未來運行中斷和性能問題。進一步來講,他們可以利用大數據了解使用模型以及地理趨勢,進而加深大數據對重要用戶的洞察力。 他們也可以追蹤和記錄網絡行為,大數據輕松地識別業(yè)務影響;隨著對服務利用的深刻理解加快利潤增長;同時跨多系統(tǒng)收集數據發(fā)展IT服務目錄。
大數據分析的想法,尤其在IT操作方面,大數據對于我們發(fā)明并沒有什么作用,但是我們一直在其中。Gartner已經關注這個話題很多年了,基本上他們已經強調,如果IT正在引進新鮮靈感,他們將會扔掉大數據老式方法開發(fā)一個新的IT操作分析平臺。
促進發(fā)展
經李克強總理簽批,2015年9月,國務院印發(fā)《促進大數據發(fā)展行動綱要》(以下簡稱《綱要》),系統(tǒng)部署大數據發(fā)展工作。
《綱要》明確,推動大數據發(fā)展和應用,在未來5至10年打造精準治理、多方協(xié)作的社會治理新模式,建立運行平穩(wěn)、安全高效的經濟運行新機制,構建以人為本、惠及全民的民生服務新體系,開啟大眾創(chuàng)業(yè)、萬眾創(chuàng)新的創(chuàng)新驅動新格局,培育高端智能、新興繁榮的產業(yè)發(fā)展新生態(tài)。
《綱要》部署三方面主要任務。一要加快政府數據開放共享,推動資源整合,提升治理能力。大力推動政府部門數據共享,穩(wěn)步推動公共數據資源開放,統(tǒng)籌規(guī)劃大數據基礎設施建設,支持宏觀調控科學化,推動政府治理精準化,推進商事服務便捷化,促進安全保障高效化,加快民生服務普惠化。二要推動產業(yè)創(chuàng)新發(fā)展,培育新興業(yè)態(tài),助力經濟轉型。發(fā)展大數據在工業(yè)、新興產業(yè)、農業(yè)農村等行業(yè)領域應用,推動大數據發(fā)展與科研創(chuàng)新有機結合,推進基礎研究和核心技術攻關,形成大數據產品體系,完善大數據產業(yè)鏈。三要強化安全保障,提高管理水平,促進健康發(fā)展。健全大數據安全保障體系,強化安全支撐。
2015年9月18日貴州省啟動我國首個大數據綜合試驗區(qū)的建設工作,力爭通過3至5年的努力,將貴州大數據綜合試驗區(qū)建設成為全國數據匯聚應用新高地、綜合治理示范區(qū)、產業(yè)發(fā)展聚集區(qū)、創(chuàng)業(yè)創(chuàng)新首選地、政策創(chuàng)新先行區(qū)。
圍繞這一目標,貴州省將重點構建“三大體系”,重點打造“七大平臺”,實施“十大工程”。
“三大體系”是指構建先行先試的政策法規(guī)體系、跨界融合的產業(yè)生態(tài)體系、防控一體的安全保障體系;“七大平臺”則是指打造大數據示范平臺、大數據集聚平臺、大數據應用平臺、大數據交易平臺、大數據金融服務平臺、大數據交流合作平臺和大數據創(chuàng)業(yè)創(chuàng)新平臺;“十大工程”即實施數據資源匯聚工程、政府數據共享開放工程、綜合治理示范提升工程、大數據便民惠民工程、大數據三大業(yè)態(tài)培育工程、傳統(tǒng)產業(yè)改造升級工程、信息基礎設施提升工程、人才培養(yǎng)引進工程、大數據安全保障工程和大數據區(qū)域試點統(tǒng)籌發(fā)展工程。
此外,貴州省將計劃通過綜合試驗區(qū)建設,探索大數據應用的創(chuàng)新模式,培育大數據交易新的做法,開展數據交易的市場試點,鼓勵產業(yè)鏈上下游之間的數據交換,規(guī)范數據資源的交易行為,促進形成新的業(yè)態(tài)。
國家發(fā)展改革委有關專家表示,大數據綜合試驗區(qū)建設不是簡單的建產業(yè)園、建數據中心、建云平臺等,而是要充分依托已有的設施資源,把現有的利用好,把新建的規(guī)劃好,避免造成空間資源的浪費和損失。探索大數據應用新的模式,圍繞有數據、用數據、管數據,開展先行先試,更好地服務國家大數據發(fā)展戰(zhàn)略。
2016年3月17日,《中華人民共和國國民經濟和社會發(fā)展第十三個五年規(guī)劃綱要》發(fā)布,其中第二十七章“實施國家大數據戰(zhàn)略”提出:把大數據作為基礎性戰(zhàn)略資源,全面實施促進大數據發(fā)展行動,加快推動數據資源共享開放和開發(fā)應用,助力產業(yè)轉型升級和社會治理創(chuàng)新;具體包括:加快政府數據開放共享、促進大數據產業(yè)健康發(fā)展。