隨著(zhù)互聯(lián)網(wǎng)的不斷擴張和云計算技術(shù)的進(jìn)一步推廣,海量的數據在個(gè)人、企業(yè)、研究機構等源源不斷地產(chǎn)生。這些數據為日常生活提供了便利,信息網(wǎng)站可以推送用戶(hù)定制的新聞,購物網(wǎng)站可以預先提供用戶(hù)想買(mǎi)的物品,人們可以隨時(shí)隨地分享。但是如何有效、快速、可靠地存取這些日益增長(cháng)的海量數據成了關(guān)鍵的問(wèn)題。傳統的存儲解決方案能提供數據的可靠性和絕對的安全性,但是面對海量的數據及其各種不同的需求,傳統的解決方案日益面臨越來(lái)越多的問(wèn)難,比如數據量的指數級增長(cháng)對不斷擴容的存儲空間提出要求,實(shí)時(shí)分析海量的數據對存儲計算能力提出要求。一方面傳統的存儲解決方案正在改變,比如多級存儲來(lái)不斷適應大數據存儲管理系統的特點(diǎn)和要求,另一方面全新的存儲解決方案正日漸成熟,來(lái)有效滿(mǎn)足大數據的發(fā)展需求。
· 什么是大數據?為什么要大數據?
“大數據”通常指的是那些數量巨大、難于收集、處理、分析的數據集,亦指那些在傳統基礎設施中長(cháng)期保存的數據。這里的“大”有幾層含義,它可以形容組織的大小,而更重要的是,它界定了企業(yè)中IT基礎設施的規模。業(yè)內對大數據應用寄予了無(wú)限的期望商業(yè)信息積累的越多價(jià)值也越大只不過(guò)我們需要一個(gè)方法把這些價(jià)值挖掘出來(lái)。
與以往相比,我們除了有能力存儲更多的數據量之外,還要面對更多的數據類(lèi)型。這些數據的來(lái)源包括網(wǎng)上交易、網(wǎng)絡(luò )社交活動(dòng)、自動(dòng)傳感器、移動(dòng)設備以及科學(xué)儀器等等。除了那些固定的數據生產(chǎn)源,各種交易行為還可能加快數據的積累速度。比如說(shuō),社交類(lèi)多媒體數據的爆炸性增長(cháng)就源于新的網(wǎng)上交易和記錄行為。數據永遠都在增長(cháng)之中,但是,只有存儲海量數據的能力是不夠的,因為這并不能保證我們能夠成功地從中搜尋出商業(yè)價(jià)值。
· 大數據的存儲及處理能力挑戰
當前,我國大數據存儲、分析和處理的能力還很薄弱,與大數據相關(guān)的技術(shù)和工具的運用也相當不成熟,大部分企業(yè)仍處于IT產(chǎn)業(yè)鏈的低端。我國在數據庫、數據倉庫、數據挖掘以及云計算等領(lǐng)域的技術(shù),普遍落后于國外先進(jìn)水平。
在大數據存儲方面,數據的爆炸式增長(cháng),數據來(lái)源的極其豐富和數據類(lèi)型的多種多樣,使數據存儲量更龐大,對數據展現的要求更高。而目前我國傳統的數據庫,還難以存儲如此巨大的數據量。在大數據的分析處理方面,由于針對具體的應用類(lèi)型,需要采用不同的處理方式,因此必須通過(guò)建立高級大數據的分析模型,來(lái)實(shí)現快速抽取大數據的核心數據、高效分析這些核心數據并從中發(fā)現價(jià)值,而這些數據分析能力我國還很欠缺。
因此,如何提高我國對大數據資源的存儲和整合能力,實(shí)現從大數據中發(fā)現、挖掘出有價(jià)值的信息和知識,是當前我國大數據存儲和處理所面臨的挑戰。
· 處理大數據存儲挑戰的建議
通過(guò)隔離管理大數據存儲
如果您在您的企業(yè)中有多個(gè)存儲箱,那么將數據庫、線(xiàn)交易處理(OLTP)和微軟Exchange應用到特定的存儲系統絕對是一個(gè)好主意。而專(zhuān)其它存儲系統則用于大數據應用,如門(mén)戶(hù)網(wǎng)站,在線(xiàn)流媒體應用,等等。
如果您的企業(yè)負擔不起分隔的存儲系統,將特定的前端存儲端口到數據庫,OLTP,等等;致力于大數據應用到其他端口。背后的基本原理是使用專(zhuān)用端口,而大數據流量是以千字節或兆字節衡量,OLTP應用流量是以每秒的輸入/輸出操作(IOPS)衡量,因為數據塊的大小是比大數據更大而比OLTP應用程序更小。OLTP應用程序是CPU密集型的,而大數據應用程序更多的使用前端端口。因此,更多的端口可以專(zhuān)注于大數據應用。
專(zhuān)業(yè)的大數據存儲管理
如今,很多公司提供兼容數據管理的存儲系統。你應該在尋找你的大數據存儲管理解決方案時(shí)評估這些公司。如EMCIsilon的集群存儲系統對于大數據存儲管理是一個(gè)更好的選擇,因為在一個(gè)單一的文件系統中大數據能增長(cháng)到多字節的數據。
大數據分析
除了存儲,大數據管理的另一項大的挑戰是數據分析。一般的數據分析應用程序無(wú)法很好的處理大數據,畢竟涉及到大量的數據。
目前,諸如EMCGreenplum這樣的公司就在采用專(zhuān)門(mén)針對大數據的管理和分析的工具。這些應用程序運行在集群存儲系統上,緩解大數據的管理。建議選擇應用程序可同時(shí)工作在群集存儲系統,并迅速有效地分析數據。快速索引,確保元數據始終駐留在固態(tài)硬盤(pán)(SSD),如果存儲箱為您提供了這樣的選擇的話(huà)。
管理大數據的另一個(gè)需要重點(diǎn)考慮的是未來(lái)的數據增長(cháng)。你的大數據存儲管理系統應該是可擴展的,足以滿(mǎn)足未來(lái)的存儲需求。
大數據的存儲管理和云計算
許多公司正在尋找云計算服務(wù)來(lái)進(jìn)行存儲和管理海量數據。而選擇云服務(wù)來(lái)大型數據存儲管理,可以確保數據的所有權仍然是你的。
你應該有權選擇將您的數據移入或移出云服務(wù),而不被供應商鎖定。其他重要的考慮因素是供應商的數據安全指南。