Intuit數(shù)據(jù)工程副主管Loconzolo雙腳都已經(jīng)邁進(jìn)數(shù)據(jù)湖里了。SmarterRemarketer首席數(shù)據(jù)科學(xué)家DeanAbbott也為云技術(shù)的發(fā)展指出了捷徑。他們二人一致認(rèn)為,大數(shù)據(jù)與分析學(xué)前沿是個(gè)活動(dòng)目標(biāo)，這一領(lǐng)域包含了儲(chǔ)存原始數(shù)據(jù)的數(shù)據(jù)湖和云計(jì)算。盡管這些技術(shù)并未成熟，但等待也并非上策。

　　Loconzolo表示：“現(xiàn)實(shí)的情況是，這些工具都剛剛興起，他們構(gòu)筑的平臺(tái)還不足以讓企業(yè)依賴。但是，大數(shù)據(jù)和分析學(xué)等學(xué)科發(fā)展十分迅速，因此企業(yè)必須努力跟上，否則就有被甩掉的危險(xiǎn)。”他還說(shuō)：“過(guò)去，新興技術(shù)往往需要十年左右的時(shí)間才能夠成熟，但是現(xiàn)在大大不同了，人們幾個(gè)月甚至幾周時(shí)間就能想出解決方案。”那么，有哪些新興技術(shù)是我們應(yīng)該關(guān)注，或者說(shuō)科研人員正在重點(diǎn)研究的呢？《電腦世界》采訪了一些IT精英、咨詢師和行業(yè)分析專家，來(lái)看看他們列出的幾大趨勢(shì)吧。

　　1.云端大數(shù)據(jù)分析

　　Hadoop是一組有一定框架結(jié)構(gòu)的工具，用來(lái)處理大型數(shù)據(jù)組。它原本用于機(jī)器群，但現(xiàn)在情況有所變化。ForresterResearch一位分析師BrianHopkins表示，現(xiàn)在有越來(lái)越多的技術(shù)可以運(yùn)用到云端數(shù)據(jù)處理上來(lái)了。比如亞馬遜的BI數(shù)據(jù)庫(kù)、Google的BigQuery數(shù)據(jù)分析服務(wù),、IBM’sBluemix云平臺(tái)和亞馬遜的Kinesis數(shù)據(jù)處理服務(wù)。這位分析師還說(shuō)，未來(lái)的大數(shù)據(jù)將是內(nèi)部數(shù)據(jù)部署與云端數(shù)據(jù)的結(jié)合體。

　　SmarterRemarketer是SaaS零售分析、市場(chǎng)細(xì)分和營(yíng)銷服務(wù)的供應(yīng)商，它最近將自己室內(nèi)的Hadoop和MongoDB數(shù)據(jù)庫(kù)基礎(chǔ)設(shè)施轉(zhuǎn)移到了一個(gè)基于云技術(shù)的數(shù)據(jù)庫(kù)—AmazonRedshift.這家位于印第安納波利斯的公司收集線上和實(shí)體銷售數(shù)據(jù)、顧客信息和實(shí)時(shí)行為數(shù)據(jù)，之后進(jìn)行分析，從而幫助零售商做出針對(duì)消費(fèi)者的決策，有些決策甚至是實(shí)時(shí)的。

　　Abbott表示，Redshift可以節(jié)省這家公司的成本，這是因?yàn)樗鼘?duì)于結(jié)構(gòu)數(shù)據(jù)擁有強(qiáng)大的匯總報(bào)告功能，而且它頗具規(guī)模，使用起來(lái)相對(duì)容易。用這些虛擬設(shè)備總是要比那些實(shí)體設(shè)備便宜一些。

　　相比之下，位于加州山景城的Intuit在走向云分析的過(guò)程中就要謹(jǐn)慎多了，因?yàn)樗�需要一個(gè)安全、穩(wěn)定、可控的環(huán)境。目前為止，這家金融軟件公司的數(shù)據(jù)都還在自家的數(shù)據(jù)庫(kù)—IntuitAnalyticsCloud里面。Loconzolo表示：“目前我們正跟亞馬遜還有Cloudera合作，建立一個(gè)我們幾家公司公用的能跨越虛擬、現(xiàn)實(shí)兩個(gè)世界的、具有高度穩(wěn)定性的云端，但是現(xiàn)在這個(gè)問題還沒有得到解決。”然而，可以說(shuō)，對(duì)于像Intuit這種銷售云端產(chǎn)品的公司來(lái)說(shuō)，向云端技術(shù)進(jìn)軍是必然的。Loconzolo還說(shuō)道，未來(lái)我們會(huì)發(fā)展到一個(gè)階段，那時(shí)把數(shù)據(jù)放在私有云端將是浪費(fèi)的。

　　2.Hadoop：一個(gè)新的企業(yè)數(shù)據(jù)運(yùn)行系統(tǒng)

　　Hopkins表示，向MapReduce這樣的分布式分析框架，正在逐漸演化成分布式資源管理器，這些資源管理器正逐步將Hadoop變?yōu)槎嘤猛緮?shù)據(jù)運(yùn)行系統(tǒng)。“有了這些系統(tǒng)，你就可以進(jìn)行多種多樣的操作和分析。”

　　這對(duì)企業(yè)來(lái)說(shuō)意味著什么呢？SQL、MapReduce、in-memory、流水式處理、圖表分析還有其它工作都能在Hadoop上進(jìn)行，越來(lái)越多的企業(yè)會(huì)把Hadoop當(dāng)做企業(yè)數(shù)據(jù)中心。Hopkins還說(shuō)：“在Hadoop上能進(jìn)行各種各樣的數(shù)據(jù)處理工作，這樣的話，Hadoop會(huì)慢慢變成一個(gè)多用途的數(shù)據(jù)處理系統(tǒng)。”

　　Intuit已經(jīng)開始在Hadoop建立自己的數(shù)據(jù)基地了。Loconzolo說(shuō)：“我們的策略是利用Hadoop分布式文件系統(tǒng)，因?yàn)樗�和MapReduce與Hadoop等聯(lián)系十分密切，這樣的話，人與產(chǎn)品之間的各種互動(dòng)就可以實(shí)現(xiàn)了。

　　3.大數(shù)據(jù)湖泊

　　美國(guó)普華永道首席技術(shù)專家ChrisCurran說(shuō)，傳統(tǒng)數(shù)據(jù)庫(kù)理論認(rèn)為，人們應(yīng)該先設(shè)計(jì)數(shù)據(jù)集，然后再將數(shù)據(jù)輸入進(jìn)去。而“數(shù)據(jù)湖泊“，也被稱作“企業(yè)數(shù)據(jù)湖泊”或者“企業(yè)數(shù)據(jù)中心”，顛覆了這個(gè)理念。“現(xiàn)在，我們先收集數(shù)據(jù)，然后把它們都存入Hadoop倉(cāng)庫(kù)里，我們不必事先設(shè)計(jì)數(shù)據(jù)模型了。”這個(gè)數(shù)據(jù)湖泊不僅為人們提供了分析數(shù)據(jù)的工具，而且很明確地告訴你，這里有什么樣的數(shù)據(jù)。Curran還表示，運(yùn)用Hadoop的過(guò)程中人們就可以增加對(duì)數(shù)據(jù)的認(rèn)識(shí)。這是一個(gè)遞增的、有機(jī)的大規(guī)模數(shù)據(jù)庫(kù)。當(dāng)然，這樣一來(lái)，對(duì)使用者的技術(shù)要求相應(yīng)地會(huì)比較高。

　　Loconzolo表示，Intuit擁有自己的數(shù)據(jù)湖泊，這個(gè)數(shù)據(jù)湖里既有用戶點(diǎn)擊量的數(shù)據(jù)，也有企業(yè)和第三方的數(shù)據(jù)，所有這些都是Intuit分析云端的一部分，但關(guān)鍵是要讓圍繞這個(gè)數(shù)據(jù)湖的工具能夠?yàn)槿藗冇行Ю�用起�?lái)。Loconzolo還說(shuō)，對(duì)于在Hadoop建立數(shù)據(jù)湖，一個(gè)需要考慮的問題是，這個(gè)平臺(tái)并沒有完完全全的為企業(yè)的需求設(shè)置周全。“我們還需要傳統(tǒng)企業(yè)數(shù)據(jù)庫(kù)已經(jīng)有了幾十年的一些功能，比如監(jiān)控訪問控制、加密、安全性以及能夠從源頭到去向地追蹤數(shù)據(jù)等等。

　　4.更多預(yù)測(cè)分析

　　Hopkins表示，有了大數(shù)據(jù)，分析師們不僅有了更多的數(shù)據(jù)可以利用，也擁有了更強(qiáng)大的處理打量不同屬性數(shù)據(jù)的能力。

　　他說(shuō)：“傳統(tǒng)的機(jī)器學(xué)習(xí)利用的數(shù)據(jù)分析是建立在一個(gè)大數(shù)據(jù)集中的一個(gè)樣本基礎(chǔ)上的，而現(xiàn)在，我們擁有了處理了大量數(shù)字記錄的能力，甚至于每條數(shù)據(jù)有多種不同屬性，我們都應(yīng)對(duì)自如。”

　　大數(shù)據(jù)與計(jì)算功能的結(jié)合也讓分析師們能夠挖掘人們一天中的行為數(shù)據(jù)，好比他們?cè)L問的網(wǎng)站或者是去過(guò)的地方。Hopkins把這些數(shù)據(jù)稱作“稀少數(shù)據(jù)（sparsedata）”，因?yàn)橐�想得到這些你感興趣的數(shù)據(jù)，必須過(guò)濾掉一大堆無(wú)關(guān)的數(shù)據(jù)。“要想用傳統(tǒng)機(jī)器算法對(duì)抗這種數(shù)據(jù)，從計(jì)算角度來(lái)講幾乎不可能。因?yàn)橛?jì)算能力是一個(gè)十分重要的問題，特別是現(xiàn)在傳統(tǒng)算法的速度和記憶儲(chǔ)存能力退化很快。而現(xiàn)在你可以很容易知道哪些數(shù)據(jù)是最容易分析的，不得不說(shuō)，賽場(chǎng)易主了。”

　　Loconzolo表示：“我們最感興趣的地方是，怎樣在同一個(gè)Hadoop內(nèi)核中既能作實(shí)時(shí)分析，又能做預(yù)測(cè)模型。這里最大的問題在于速度。Hadoop花費(fèi)的時(shí)間要比現(xiàn)有技術(shù)長(zhǎng)20倍，所以Intuit也在嘗試另一個(gè)大規(guī)模數(shù)據(jù)處理器ApacheSpark及其配套的SparkSQL查詢工具。Loconzolo說(shuō)：“Spark具有快速查詢、制表服務(wù)和分組功能。它能在把數(shù)據(jù)保留在Hadoop內(nèi)部的前提下，還將數(shù)據(jù)處理得十分出色。”