大數(shù)據(jù)PPTBIG DATA PRESENTATIONPRESENTS BY bantuwang

隨著云時代的來臨，大數(shù)據(jù)（Big data）也吸引了越來越多的關注。分析師團隊認為，大數(shù)據(jù)（Big data）通常用來形容一個公司創(chuàng)造的大量非結構化數(shù)據(jù)和半結構化數(shù)據(jù)，這些數(shù)據(jù)在下載到關系型數(shù)據(jù)庫用于分析時會花費過多時間和金錢。大數(shù)據(jù)分析常和云計算聯(lián)系到一起，因為實時的大型數(shù)據(jù)集分析需要像MapReduce一樣的框架來向數(shù)十、數(shù)百或甚至數(shù)千的電腦分配工作。大數(shù)據(jù)BIG DATA

大數(shù)據(jù)是什么？大數(shù)據(jù)的特征和結構大數(shù)據(jù)時代的機遇和挑戰(zhàn)大數(shù)據(jù)的趨勢大數(shù)據(jù)的應用和案例CONTENTS

PART-01大數(shù)據(jù)是什么？1

大數(shù)據(jù)（BIG DATA）指無法在一定時間范圍內用常規(guī)軟件工具進行捕捉、管理和處理的數(shù)據(jù)集合，是需要新處理模式才能具有更強的決策力、洞察發(fā)現(xiàn)力和流程優(yōu)化能力的海量、高增長率和多樣化的信息資產(chǎn)。

大數(shù)據(jù)定義對于“大數(shù)據(jù)”（Big data）研究機構Gartner給出了這樣的定義?！按髷?shù)據(jù)”是需要新處理模式才能具有更強的決策力、洞察發(fā)現(xiàn)力和流程優(yōu)化能力來適應海量、高增長率和多樣化的信息資產(chǎn)。決策力洞察發(fā)現(xiàn)力流程優(yōu)化能力

大數(shù)據(jù)是“未來的新石油”大數(shù)據(jù)是需要新處理模式才能具有更強的決策力、洞察發(fā)現(xiàn)力和流程優(yōu)化能力的海量、高增長率和多樣化的信息資產(chǎn)。大數(shù)據(jù)就是“未來的新石油”。BIG DATA

何謂大？（數(shù)據(jù)度量）1Byte= 8 Bit1 KB= 1,024 Bytes = 8192 bit1 MB= 1,024 KB = 1,048,576 Bytes1 GB= 1,024 MB = 1,048,576 KB1 TB= 1,024 GB = 1,048,576 MB1 PB= 1,024 TB = 1,048,576 GB1 EB = 1,024 PB = 1,048,576 TB1 ZB= 1,024 EB = 1,048,576 PB1 YB= 1,024 ZB = 1,048,576 EB1 BB= 1,024 YB = 1,048,576 ZB1 NB= 1,024 BB = 1,048,576 YB1 DB= 1,024 NB = 1,048,576 BB

到底有多大？1PB相當于50%的全美學術研究圖書館藏書信息內容5EB相當于至今全世界人類所講過的話語1ZB如同全世界海灘上的沙子數(shù)量總和1YB相當于7000位人類體內的微細胞總和

大數(shù)據(jù)帶來的變革123

PART-02大數(shù)據(jù)的特征和結構2

大數(shù)據(jù)的特征2176543

大數(shù)據(jù)的結構大數(shù)據(jù)包括結構化、半結構化和非結構化數(shù)據(jù)，非結構化數(shù)據(jù)越來越成為數(shù)據(jù)的主要部分。據(jù)IDC的調查報告顯示：企業(yè)中80%的數(shù)據(jù)都是非結構化數(shù)據(jù)，這些數(shù)據(jù)每年都按指數(shù)增長60%。大數(shù)據(jù)就是互聯(lián)網(wǎng)發(fā)展到現(xiàn)今階段的一種表象或特征而已，沒有必要神話它或對它保持敬畏之心，在以云計算為代表的技術創(chuàng)新大幕的襯托下，這些原本看起來很難收集和使用的數(shù)據(jù)開始容易被利用起來了，通過各行各業(yè)的不斷創(chuàng)新，大數(shù)據(jù)會逐步為人類創(chuàng)造更多的價值。半結構化結構化非結構化

大數(shù)據(jù)的安全威脅大數(shù)據(jù)基礎設施安全威脅1大數(shù)據(jù)存儲安全威脅2隱私泄露問題3針對大數(shù)據(jù)的高級持續(xù)性攻擊4數(shù)據(jù)訪問安全威脅5其他安全威脅6

大數(shù)據(jù)的三個層面123

大數(shù)據(jù)改變生活優(yōu)化各級政府、主管部門、上市公司、企業(yè)集團、外資公司都將基于大數(shù)據(jù)分析平臺優(yōu)化其決策。革命大數(shù)據(jù)分析能力逐漸加強，傳統(tǒng)市場研究行業(yè)、證券研究所、產(chǎn)業(yè)鏈咨詢機構將逐漸消失。顛覆銀行都將基于企業(yè)大數(shù)據(jù)平臺開展銀行直銷業(yè)務，同時按照產(chǎn)業(yè)鏈金融服務事業(yè)部模式開展業(yè)務改變因大數(shù)據(jù)系統(tǒng)的出現(xiàn)，所有依賴信息不對稱盈利的業(yè)務都將消失。大數(shù)據(jù)對政府、金融機構、企業(yè)來說，象空氣一樣不可或缺！

PART-03大數(shù)據(jù)時代的機遇和挑戰(zhàn)3

機遇和挑戰(zhàn)機遇挑戰(zhàn)大數(shù)據(jù)技術促進國家和社會發(fā)展大數(shù)據(jù)藍海成為企業(yè)競爭的新焦點大數(shù)據(jù)時代呼喚創(chuàng)新型人才大數(shù)據(jù)技術的運用仍有困難大數(shù)據(jù)給信息安全帶來新挑戰(zhàn)

機遇1：大數(shù)據(jù)技術促進國家和社會發(fā)展大數(shù)據(jù)技術的運用前景是十分光明的。當前，我國正處在全面建成小康社會征程中，工業(yè)化、信息化、城鎮(zhèn)化、農業(yè)現(xiàn)代化任務很重，建設下一代信息基礎設施，發(fā)展現(xiàn)代信息技術產(chǎn)業(yè)體系，健全信息安全保障體系，推進信息網(wǎng)絡技術廣泛運用，是實現(xiàn)四化同步發(fā)展的保證。大數(shù)據(jù)分析對我們深刻領會世情和國情，把握規(guī)律，實現(xiàn)科學發(fā)展，做出科學決策具有重要意義，我們必須重新認識數(shù)據(jù)的重要價值。實現(xiàn)科學發(fā)展做出科學決策

機遇2：大數(shù)據(jù)藍海成為企業(yè)競爭的新焦點大數(shù)據(jù)所能帶來的巨大商業(yè)價值，被認為將引領一場足以與20世紀計算機革命匹敵的巨大變革。大數(shù)據(jù)正在對每個領域都造成影響，包括商業(yè)、經(jīng)濟等領域。大數(shù)據(jù)正在促生新的藍海，催生新的經(jīng)濟增長點，正在成為企業(yè)競爭的新焦點。

機遇3：大數(shù)據(jù)時代呼喚創(chuàng)新型人才

挑戰(zhàn)1：大數(shù)據(jù)技術的運用仍有困難目前，大數(shù)據(jù)技術的運用仍存在一些困難與挑戰(zhàn)，體現(xiàn)在大數(shù)據(jù)挖掘的四個環(huán)節(jié)中。1要對來自網(wǎng)絡包括物聯(lián)網(wǎng)和機構信息系統(tǒng)的數(shù)據(jù)附上時空標志，去偽存真，盡可能收集異源甚至是異構的數(shù)據(jù)，還可與歷史數(shù)據(jù)對照，多角度驗證數(shù)據(jù)的全面性和可信性。2要達到低成本、低能耗、高可靠性目標，要用到冗余配置、分布化和云計算技術，存儲時對數(shù)據(jù)進行分類，通過過濾和去重，減少存儲量，并加入便于檢索的標簽。3大數(shù)據(jù)的復雜性使得難以用傳統(tǒng)的方法描述與度量，需要將高維圖像等多媒體數(shù)據(jù)降維后度量與處理，利用上下文關聯(lián)進行語義分析，從大量動態(tài)及可能模棱兩可的數(shù)據(jù)中綜合信息，并導出可理解的內容。4使結果更直觀以便于洞察。目前，盡管計算機智能化有了很大進步，但還只能針對小規(guī)模、有結構或類結構的數(shù)據(jù)進行分析，談不上深層次的數(shù)據(jù)挖掘，現(xiàn)有的數(shù)據(jù)挖掘算法在不同行業(yè)中難以通用。

挑戰(zhàn)2：大數(shù)據(jù)給信息安全帶來新挑戰(zhàn)123加大隱私泄露風險對現(xiàn)有存儲和安防措施提出挑戰(zhàn)被運用到攻擊手段中大量數(shù)據(jù)的集中存儲增加了其泄露的風險；一些敏感數(shù)據(jù)的所有權和使用權并沒有清晰界定。復雜的數(shù)據(jù)存儲在一起，可能造成企業(yè)安全管理不合規(guī)；安全防護手段更新升級慢，存在漏洞黑客可收集更多有用信息，大數(shù)據(jù)分析讓攻擊更精準；大數(shù)據(jù)為黑客發(fā)起攻擊提供了更多的機會

“棱鏡門”引爆大數(shù)據(jù)時代爭議事情的起因是美國中情局前職員斯諾登向媒體爆料，過去6年間，美國的情報部門通過一個代號為“棱鏡”的項目，從多家知名互聯(lián)網(wǎng)公司獲取電子郵件、在線聊天內容、照片、文檔、視頻等網(wǎng)絡私人數(shù)據(jù)，跟蹤用戶一舉一動。他說，自己只需要坐在辦公桌前，動動指頭，敲敲鍵盤，就能了解很多人的私密信息。斯諾登的爆料引起一片嘩然，根據(jù)他提供的資料，被卷入“棱鏡門”事件的公司包括微軟、雅虎、谷歌、蘋果、Facebook等9大IT業(yè)巨頭。在“棱鏡門”事件開始發(fā)酵之后，這些公司先是趕緊出面否認與美國政府的監(jiān)視項目進行過合作，并相繼發(fā)表聲明，呼吁政府采取更透明態(tài)度，以證明他們的“清白”。

PART-04大數(shù)據(jù)的趨勢4

借助大數(shù)據(jù)尖端分析加速發(fā)展如果正確的數(shù)據(jù)出現(xiàn)在合適的時間，您的業(yè)務將有望獲得什么機會？如何更有效率地運營您的業(yè)務？通過數(shù)據(jù)分析獲得變革的潛力與直觀理解影響著醫(yī)療、銀行、交通運輸、制造等各行各業(yè)。對于許多早期的使用者，當他們從傳統(tǒng)商業(yè)智能 (BI) 的實踐發(fā)展到可靠直觀理解的更高級分析（預測性和規(guī)范性）時，數(shù)據(jù)改變了他們的業(yè)務，無論是通過新的發(fā)現(xiàn)、更尖端的產(chǎn)品和服務或總體更好的客戶體驗。

大數(shù)據(jù)的趨勢趨勢一數(shù)據(jù)的資源化：是指大數(shù)據(jù)成為企業(yè)和社會關注的重要戰(zhàn)略資源，并已成為大家爭相搶奪的新焦點。因而，企業(yè)必須要提前制定大數(shù)據(jù)營銷戰(zhàn)略計劃，搶占市場先機。趨勢二與云計算的深度結合：大數(shù)據(jù)離不開云處理，云處理為大數(shù)據(jù)提供了彈性可拓展的基礎設備，是產(chǎn)生大數(shù)據(jù)的平臺之一。自2013年開始，大數(shù)據(jù)技術已開始和云計算技術緊密結合，預計未來兩者關系將更為密切。趨勢三科學理論的突破：隨著大數(shù)據(jù)的快速發(fā)展，就像計算機和互聯(lián)網(wǎng)一樣，大數(shù)據(jù)很有可能是新一輪的技術革命。隨之興起的數(shù)據(jù)挖掘、機器學習和人工智能等相關技術，可能會改變數(shù)據(jù)世界里的很多算法和基礎理論，實現(xiàn)科學技術上的突破。趨勢四數(shù)據(jù)科學和數(shù)據(jù)聯(lián)盟的成立：未來，數(shù)據(jù)科學將成為一門專門的學科，被越來越多的人所認知。各大高校將設立專門的數(shù)據(jù)科學類專業(yè)，也會催生一批與之相關的新的就業(yè)崗位。

趨勢五數(shù)據(jù)泄露泛濫：未來幾年數(shù)據(jù)泄露事件的增長率也許會達到100%，除非數(shù)據(jù)在其源頭就能夠得到安全保障。可以說，在未來，每個財富500強企業(yè)都會面臨數(shù)據(jù)攻擊，無論他們是否已經(jīng)做好安全防范。而所有企業(yè)，無論規(guī)模大小，都需要重新審視今天的安全定義。趨勢六數(shù)據(jù)管理成為核心競爭力：數(shù)據(jù)管理成為核心競爭力，直接影響財務表現(xiàn)。當“數(shù)據(jù)資產(chǎn)是企業(yè)核心資產(chǎn)”的概念深入人心之后，企業(yè)對于數(shù)據(jù)管理便有了更清晰的界定，將數(shù)據(jù)管理作為企業(yè)核心競爭力，持續(xù)發(fā)展，戰(zhàn)略性規(guī)劃與運用數(shù)據(jù)資產(chǎn)，成為企業(yè)數(shù)據(jù)管理的核心。趨勢七數(shù)據(jù)質量是BI(商業(yè)智能)成功的關鍵：采用自助式商業(yè)智能工具進行大數(shù)據(jù)處理的企業(yè)將會脫穎而出。其中要面臨的一個挑戰(zhàn)是，很多數(shù)據(jù)源會帶來大量低質量數(shù)據(jù)。想要成功，企業(yè)需要理解原始數(shù)據(jù)與數(shù)據(jù)分析之間的差距，從而消除低質量數(shù)據(jù)并通過BI獲得更佳決策。趨勢八數(shù)據(jù)生態(tài)系統(tǒng)復合化程度加強：大數(shù)據(jù)的世界不只是一個單一的、巨大的計算機網(wǎng)絡，而是一個由大量活動構件與多元參與者元素所構成的生態(tài)系統(tǒng)，終端設備提供商、基礎設施提供商、網(wǎng)絡服務提供商、網(wǎng)絡接入服務提供商、數(shù)據(jù)服務使能者、數(shù)據(jù)服務提供商、觸點服務、數(shù)據(jù)服務零售商等等一系列的參與者共同構建的生態(tài)系統(tǒng)。

PART-05大數(shù)據(jù)的應用和案例5

大數(shù)據(jù)的應用領域教育學情報學公共服務天文學電子政務傳媒業(yè)生物醫(yī)學商業(yè)智能圖書館學氣候學企業(yè)管理市場營銷金融學生活娛樂總統(tǒng)選舉

企業(yè)大數(shù)據(jù)建設方法大數(shù)據(jù)業(yè)務戰(zhàn)略大數(shù)據(jù)建設目標大數(shù)據(jù)架構設計大數(shù)據(jù)實施大數(shù)據(jù)運維大數(shù)據(jù)持續(xù)改進服務改進技術升級架構優(yōu)化

擴展現(xiàn)有架構1324更深入地分析當前數(shù)據(jù)針對高數(shù)據(jù)速度設計針對數(shù)據(jù)多樣性和數(shù)據(jù)量進行設計發(fā)現(xiàn)新模式—— 提高業(yè)務價值 ——

商品零售大數(shù)據(jù)此事經(jīng)被《紐約時報》報道后，塔吉特“大數(shù)據(jù)”的巨大威力轟動全美在美國，有一位父親怒氣沖沖地跑到塔吉特賣場，質問為何將帶有嬰兒用品優(yōu)惠券的廣告郵件，寄送給他正在念高中的女兒?然而后來證實，他的女兒果真懷孕了。這名女孩搜尋商品的關鍵詞，以及在社交網(wǎng)站所顯露的行為軌跡，使沃爾瑪捕捉到了她的懷孕信息。模型發(fā)現(xiàn)，許多孕婦在第2個妊娠期的開始會買許多大包裝的無香味護手霜；在懷孕的最初20周大量購買補充鈣、鎂、鋅的善存片之類的保健品。最后塔吉特選出了25種典型商品的消費數(shù)據(jù)構建了“懷孕預測指數(shù)”，通過這個指數(shù)，Target能夠在很小的誤差范圍內預測到顧客的懷孕情況，因此Target就能早早地把孕婦優(yōu)惠廣告寄發(fā)給顧客。擁抱大數(shù)據(jù)

消費大數(shù)據(jù)

證監(jiān)會大數(shù)據(jù)回顧“老鼠倉”的查處過程，在馬樂一案中，“大數(shù)據(jù)”首次介入。深交所此前通過“大數(shù)據(jù)”查出的可疑賬戶高達300個

交通大數(shù)據(jù)UPS最新的大數(shù)據(jù)來源是安裝在公司4.6萬多輛卡車上的遠程通信傳感器，這些傳感器能夠傳回車速、方向、剎車和動力性能等方面的數(shù)據(jù)。收集到的數(shù)據(jù)流不僅能說明車輛的日常性能，還能幫助公司重新設計物流路線。大量的在線地圖數(shù)據(jù)和優(yōu)化算法，最終能幫助UPS實時地調配駕駛員的收貨和配送路線。該系統(tǒng)為UPS減少了8500萬英里的物流里程，由此節(jié)約了840萬加侖的汽油。

金融大數(shù)據(jù)阿里“水文模型”是按小微企業(yè)類目、級別等分別統(tǒng)計一個阿里系商戶的相關“水文數(shù)據(jù)”庫。如過往每到某個時點，該店鋪銷售會進入旺季，銷售額就會增長，同時每在這個時段，該客戶對外投放的額度就會上升，結合這些水文數(shù)據(jù)，系統(tǒng)可以判斷出該店鋪的融資需求；結合該店鋪以往資金支用數(shù)據(jù)及同類店鋪資金支用數(shù)據(jù)，可以判斷出該店鋪的資金需求額度。$

—— 感謝觀看 ——THANKS