• <strike id="fdgpu"><input id="fdgpu"></input></strike>
    <label id="fdgpu"></label>
    <s id="fdgpu"><code id="fdgpu"></code></s>

  • <label id="fdgpu"></label>
  • <span id="fdgpu"><u id="fdgpu"></u></span>

    <s id="fdgpu"><sub id="fdgpu"></sub></s>

    淺析大數據存儲與處理瓶頸及應對之策

    2014-06-09 16:54:02   作者:   來(lái)源:比特網(wǎng)   評論:0  點(diǎn)擊:


      隨著(zhù)互聯(lián)網(wǎng)的不斷擴張和云計算技術(shù)的進(jìn)一步推廣,海量的數據在個(gè)人、企業(yè)、研究機構等源源不斷地產(chǎn)生。這些數據為日常生活提供了便利,信息網(wǎng)站可以推送用戶(hù)定制的新聞,購物網(wǎng)站可以預先提供用戶(hù)想買(mǎi)的物品,人們可以隨時(shí)隨地分享。但是如何有效、快速、可靠地存取這些日益增長(cháng)的海量數據成了關(guān)鍵的問(wèn)題。傳統的存儲解決方案能提供數據的可靠性和絕對的安全性,但是面對海量的數據及其各種不同的需求,傳統的解決方案日益面臨越來(lái)越多的問(wèn)難,比如數據量的指數級增長(cháng)對不斷擴容的存儲空間提出要求,實(shí)時(shí)分析海量的數據對存儲計算能力提出要求。一方面傳統的存儲解決方案正在改變,比如多級存儲來(lái)不斷適應大數據存儲管理系統的特點(diǎn)和要求,另一方面全新的存儲解決方案正日漸成熟,來(lái)有效滿(mǎn)足大數據的發(fā)展需求。

      · 什么是大數據?為什么要大數據?

      “大數據”通常指的是那些數量巨大、難于收集、處理、分析的數據集,亦指那些在傳統基礎設施中長(cháng)期保存的數據。這里的“大”有幾層含義,它可以形容組織的大小,而更重要的是,它界定了企業(yè)中IT基礎設施的規模。業(yè)內對大數據應用寄予了無(wú)限的期望商業(yè)信息積累的越多價(jià)值也越大只不過(guò)我們需要一個(gè)方法把這些價(jià)值挖掘出來(lái)。

      與以往相比,我們除了有能力存儲更多的數據量之外,還要面對更多的數據類(lèi)型。這些數據的來(lái)源包括網(wǎng)上交易、網(wǎng)絡(luò )社交活動(dòng)、自動(dòng)傳感器、移動(dòng)設備以及科學(xué)儀器等等。除了那些固定的數據生產(chǎn)源,各種交易行為還可能加快數據的積累速度。比如說(shuō),社交類(lèi)多媒體數據的爆炸性增長(cháng)就源于新的網(wǎng)上交易和記錄行為。數據永遠都在增長(cháng)之中,但是,只有存儲海量數據的能力是不夠的,因為這并不能保證我們能夠成功地從中搜尋出商業(yè)價(jià)值。

      · 大數據的存儲及處理能力挑戰

      當前,我國大數據存儲、分析和處理的能力還很薄弱,與大數據相關(guān)的技術(shù)和工具的運用也相當不成熟,大部分企業(yè)仍處于IT產(chǎn)業(yè)鏈的低端。我國在數據庫、數據倉庫、數據挖掘以及云計算等領(lǐng)域的技術(shù),普遍落后于國外先進(jìn)水平。

      在大數據存儲方面,數據的爆炸式增長(cháng),數據來(lái)源的極其豐富和數據類(lèi)型的多種多樣,使數據存儲量更龐大,對數據展現的要求更高。而目前我國傳統的數據庫,還難以存儲如此巨大的數據量。在大數據的分析處理方面,由于針對具體的應用類(lèi)型,需要采用不同的處理方式,因此必須通過(guò)建立高級大數據的分析模型,來(lái)實(shí)現快速抽取大數據的核心數據、高效分析這些核心數據并從中發(fā)現價(jià)值,而這些數據分析能力我國還很欠缺。

      因此,如何提高我國對大數據資源的存儲和整合能力,實(shí)現從大數據中發(fā)現、挖掘出有價(jià)值的信息和知識,是當前我國大數據存儲和處理所面臨的挑戰。

      · 處理大數據存儲挑戰的建議

      通過(guò)隔離管理大數據存儲

      如果您在您的企業(yè)中有多個(gè)存儲箱,那么將數據庫、線(xiàn)交易處理(OLTP)和微軟Exchange應用到特定的存儲系統絕對是一個(gè)好主意。而專(zhuān)其它存儲系統則用于大數據應用,如門(mén)戶(hù)網(wǎng)站,在線(xiàn)流媒體應用,等等。

      如果您的企業(yè)負擔不起分隔的存儲系統,將特定的前端存儲端口到數據庫,OLTP,等等;致力于大數據應用到其他端口。背后的基本原理是使用專(zhuān)用端口,而大數據流量是以千字節或兆字節衡量,OLTP應用流量是以每秒的輸入/輸出操作(IOPS)衡量,因為數據塊的大小是比大數據更大而比OLTP應用程序更小。OLTP應用程序是CPU密集型的,而大數據應用程序更多的使用前端端口。因此,更多的端口可以專(zhuān)注于大數據應用。

      專(zhuān)業(yè)的大數據存儲管理

      如今,很多公司提供兼容數據管理的存儲系統。你應該在尋找你的大數據存儲管理解決方案時(shí)評估這些公司。如EMCIsilon的集群存儲系統對于大數據存儲管理是一個(gè)更好的選擇,因為在一個(gè)單一的文件系統中大數據能增長(cháng)到多字節的數據。

      大數據分析

      除了存儲,大數據管理的另一項大的挑戰是數據分析。一般的數據分析應用程序無(wú)法很好的處理大數據,畢竟涉及到大量的數據。

      目前,諸如EMCGreenplum這樣的公司就在采用專(zhuān)門(mén)針對大數據的管理和分析的工具。這些應用程序運行在集群存儲系統上,緩解大數據的管理。建議選擇應用程序可同時(shí)工作在群集存儲系統,并迅速有效地分析數據。快速索引,確保元數據始終駐留在固態(tài)硬盤(pán)(SSD),如果存儲箱為您提供了這樣的選擇的話(huà)。

      管理大數據的另一個(gè)需要重點(diǎn)考慮的是未來(lái)的數據增長(cháng)。你的大數據存儲管理系統應該是可擴展的,足以滿(mǎn)足未來(lái)的存儲需求。

      大數據的存儲管理和云計算

      許多公司正在尋找云計算服務(wù)來(lái)進(jìn)行存儲和管理海量數據。而選擇云服務(wù)來(lái)大型數據存儲管理,可以確保數據的所有權仍然是你的。

      你應該有權選擇將您的數據移入或移出云服務(wù),而不被供應商鎖定。其他重要的考慮因素是供應商的數據安全指南。

    分享到: 收藏

    專(zhuān)題

    亚洲精品网站在线观看不卡无广告,国产a不卡片精品免费观看,欧美亚洲一区二区三区在线,国产一区二区三区日韩 靖江市| 屯昌县| 蓝山县| 姜堰市| 招远市| 厦门市| 淮安市| 封丘县| 富裕县| 宿迁市| 丁青县| 古交市| 互助| 平山县| 黄山市| 兰溪市| 朝阳市| 西藏| 龙州县| 乐安县| 多伦县| 昭苏县| 曲靖市| 上蔡县| 库伦旗| 吉木萨尔县| 盐山县| 从江县| 建瓯市| 乌鲁木齐县| 黄龙县| 金溪县| 浦北县| 靖宇县| 永定县| 南澳县| 福海县| 景东| 轮台县| 双城市| 神池县| http://444 http://444 http://444 http://444 http://444 http://444