擁抱大數(shù)據(jù) 需要大智慧

　　近年來(lái)，有關(guān)大數(shù)據(jù)的熱點(diǎn)話題一浪高過(guò)一浪，關(guān)注大數(shù)據(jù)應(yīng)用的人也越來(lái)越多?？傮w來(lái)說(shuō)，人們對(duì)大數(shù)據(jù)的前景持樂(lè)觀態(tài)度，比如談到大數(shù)據(jù)的技術(shù)特征，人們最容易想起的就是4個(gè)“v”：vast(數(shù)量龐大)、variety(種類(lèi)繁多)、velocity(增長(zhǎng)迅速)和value(總價(jià)值高)。這些都沒(méi)錯(cuò)，但仔細(xì)一想，它們都是偏重說(shuō)明大數(shù)據(jù)的正面優(yōu)勢(shì)的。但其實(shí)，大也有大的難處，大數(shù)據(jù)也不可避免地存在著一些負(fù)面劣勢(shì)。結(jié)合筆者的從業(yè)經(jīng)驗(yàn)，大數(shù)據(jù)的負(fù)面劣勢(shì)可以概括為4個(gè)“n”，下面逐一說(shuō)明每個(gè)n的含義。

　　inflated大數(shù)據(jù)是肥胖的。大數(shù)據(jù)的大不僅僅體現(xiàn)在數(shù)據(jù)記錄的行數(shù)多，更體現(xiàn)在字段變量的列數(shù)多，這就為分析多因素之間的關(guān)聯(lián)性帶來(lái)了難度。哪怕是最簡(jiǎn)單的方差分析，計(jì)算一兩個(gè)還行，計(jì)算一兩百個(gè)就讓人望而生畏了。

　　unstructured大數(shù)據(jù)是非結(jié)構(gòu)化的。大數(shù)據(jù)的結(jié)構(gòu)也是非常復(fù)雜的，既包括像交易額、時(shí)間等連續(xù)型變量，像性別、工作類(lèi)型等離散型變量這樣傳統(tǒng)的結(jié)構(gòu)化數(shù)據(jù)，更增添了如文本、社會(huì)關(guān)系網(wǎng)絡(luò)，乃至語(yǔ)音、圖像等大量新興的非結(jié)構(gòu)化數(shù)據(jù)，而這些非結(jié)構(gòu)化數(shù)據(jù)蘊(yùn)含的信息量往往更加巨大，但分析手段卻略顯單薄。

　　incomplete大數(shù)據(jù)是殘缺的。在現(xiàn)實(shí)的世界里，由于用戶登記的信息不全、計(jì)算機(jī)數(shù)據(jù)存儲(chǔ)的錯(cuò)誤等種種原因，數(shù)據(jù)缺失是常見(jiàn)的現(xiàn)象。在大數(shù)據(jù)的場(chǎng)景下，數(shù)據(jù)缺失更是家常便飯，這就為后期的分析與建模質(zhì)量增加了不確定的風(fēng)險(xiǎn)。

　　abnormal大數(shù)據(jù)是異常的。同樣，在現(xiàn)實(shí)的世界里，大數(shù)據(jù)里還有不少異常值(outlier)。比如某些連續(xù)型變量(如一個(gè)短期時(shí)間內(nèi)的交易金額)的取之太大，某些離散型變量(如某個(gè)被選購(gòu)的產(chǎn)品名稱(chēng))里的某個(gè)水平值出現(xiàn)的次數(shù)太少，等等。如果不刪除，很可能干擾模型系數(shù)的計(jì)算和評(píng)估;如果直接刪除，又覺(jué)得缺乏說(shuō)服力，容易引起他人的質(zhì)疑。這使得分析人員落到了一個(gè)進(jìn)退兩難的境地。

　　如果不能處理好這些不利因素，大數(shù)據(jù)應(yīng)用的優(yōu)勢(shì)很難發(fā)揮出來(lái)。想要擁抱大數(shù)據(jù)，并不是一項(xiàng)在常規(guī)條件下數(shù)據(jù)分析的簡(jiǎn)單升級(jí)，而是一項(xiàng)需要大智慧的綜合工作。STIR(喚醒)策略是筆者在實(shí)踐工作中提煉出來(lái)的、能夠在實(shí)際工作中有效克服大數(shù)據(jù)負(fù)面劣勢(shì)的應(yīng)對(duì)方法。具體來(lái)說(shuō)，STIR策略包含了四種技術(shù)手段，目前都已經(jīng)有機(jī)地整合在統(tǒng)計(jì)分析與數(shù)據(jù)挖掘?qū)I(yè)軟件JMP中了，它可以用來(lái)解決上文提出的四個(gè)問(wèn)題，下面將分別說(shuō)明。

Switching Variables切換變量

　　它是用來(lái)解決大數(shù)據(jù)“殘缺”問(wèn)題的。通過(guò)“列轉(zhuǎn)換器”、“動(dòng)畫(huà)播放”等工具，海量因素之間的關(guān)聯(lián)性分析變得十分簡(jiǎn)單、快捷，還可以根據(jù)需要對(duì)關(guān)聯(lián)性的重要程度進(jìn)行排序，大數(shù)據(jù)分析的效率由此得到大幅提升。

　　基于JMP軟件的關(guān)聯(lián)性分析篩選的界面

Text Mining文本挖掘

　　它是用來(lái)解決大數(shù)據(jù)“非結(jié)構(gòu)化”問(wèn)題的。通過(guò)先對(duì)文字、圖像等新媒體信息源進(jìn)行降維、去噪、轉(zhuǎn)換等處理，產(chǎn)生結(jié)構(gòu)化數(shù)據(jù)，再用成熟的統(tǒng)計(jì)分析和數(shù)據(jù)挖掘方法進(jìn)行評(píng)價(jià)和解釋。這樣一來(lái)，大數(shù)據(jù)的應(yīng)用范圍得到了極大的拓展。

　　基于JMP軟件的文本分析結(jié)果的最終展現(xiàn)界面

Imputation缺失數(shù)賦值

　　它是用來(lái)解決大數(shù)據(jù)“殘缺”問(wèn)題的。在有missing data的時(shí)候，我們并不完全排斥直接刪除的方法，但更多的時(shí)候，我們會(huì)在條件允許的情況下，用賦值的方法去替代原先的缺失值。具體的技術(shù)很多，簡(jiǎn)單的如計(jì)算平均值、中位數(shù)、眾數(shù)之類(lèi)的統(tǒng)計(jì)量，復(fù)雜的如用回歸、決策樹(shù)、貝葉斯定理去預(yù)測(cè)缺失數(shù)的近似值等。這樣一來(lái)，大數(shù)據(jù)的質(zhì)量大為改觀，為后期的分析與建模奠定了扎實(shí)的基礎(chǔ)。

　基于JMP軟件的缺失數(shù)賦值方法選擇的操作界面

Robust Modeling穩(wěn)健建模

　　它是用來(lái)解決大數(shù)據(jù)“異常”問(wèn)題的。在融入了自動(dòng)識(shí)別、重要性加權(quán)等處理手段后，分析人員既直接消除了個(gè)別強(qiáng)影響點(diǎn)的敏感程度，又綜合考慮了所有數(shù)據(jù)的影響，增強(qiáng)了模型的抗干擾能力，使得模型體現(xiàn)出良好的預(yù)測(cè)特性，由此做出的業(yè)務(wù)決策自然變得更加科學(xué)、精準(zhǔn)。

　　基于JMP軟件的模型穩(wěn)健擬合的報(bào)表界面

　　總之，我們必須要對(duì)大數(shù)據(jù)有一個(gè)全面、客觀的認(rèn)識(shí)。只有在不同的業(yè)務(wù)和數(shù)據(jù)背景下采用不同的戰(zhàn)略戰(zhàn)術(shù)，才能在大數(shù)據(jù)時(shí)代，真正發(fā)揮大數(shù)據(jù)的杠桿作用，有效提高企業(yè)的運(yùn)營(yíng)效率和市場(chǎng)競(jìng)爭(zhēng)力。