一種基于聚類(lèi)的大數(shù)據(jù)常態(tài)模式提取方法及系統(tǒng)的制作方法
【專(zhuān)利摘要】本發(fā)明公開(kāi)了一種基于聚類(lèi)的大數(shù)據(jù)常態(tài)模式提取方法。本方法為：1)服務(wù)器從各終端采集樣本數(shù)據(jù)，得到一總樣本數(shù)據(jù)集；2)從該總樣本數(shù)據(jù)集中抽取若干樣本，并對(duì)其聚類(lèi)，將得到的簇作為樣本的標(biāo)簽對(duì)樣本進(jìn)行標(biāo)注，然后根據(jù)選取的屬性降維指標(biāo)計(jì)算所述抽樣樣本集合中已標(biāo)注樣本每一屬性的屬性值辨識(shí)度、屬性辨識(shí)度和或?qū)傩灾抵匾?、屬性重要性四?xiàng)指標(biāo)；根據(jù)計(jì)算結(jié)果對(duì)屬性進(jìn)行排序，選取若干屬性作為大數(shù)據(jù)降維后保留的屬性；3)對(duì)屬性降維后的全體樣本數(shù)據(jù)聚類(lèi)，將得到的簇作為樣本的標(biāo)簽對(duì)樣本進(jìn)行標(biāo)注；4)根據(jù)選取的屬性劃分指標(biāo)計(jì)算已標(biāo)注樣本每一屬性的四項(xiàng)指標(biāo)，選取若干屬性特征對(duì)該總樣本數(shù)據(jù)集進(jìn)行劃分，將劃分結(jié)果作為常態(tài)模式。
【專(zhuān)利說(shuō)明】一種基于聚類(lèi)的大數(shù)據(jù)常態(tài)模式提取方法及系統(tǒng)

【技術(shù)領(lǐng)域】
[0001] 本發(fā)明涉及一種常態(tài)模式提取系統(tǒng)，尤其涉及一種基于聚類(lèi)的大數(shù)據(jù)常態(tài)模式提 取方法及系統(tǒng)。

【背景技術(shù)】
[0002] 在現(xiàn)實(shí)生活中，我們經(jīng)常需要對(duì)一組樣本數(shù)據(jù)進(jìn)行分類(lèi)。常用的處理方法有兩 種：
[0003] 第一種分類(lèi)方法，基于經(jīng)驗(yàn)確定一些分類(lèi)的指標(biāo)（屬性、屬性值）并按照這些指標(biāo) 將樣本數(shù)據(jù)分類(lèi)，例如將一群人分為"青年"、"中年"、"老年"三類(lèi)，就是基于屬性"年齡層" 做出的。這種分類(lèi)方式強(qiáng)烈的依賴(lài)于分類(lèi)人的經(jīng)驗(yàn)，具有較強(qiáng)的主觀色彩，使得不同人對(duì)同 一組樣本數(shù)據(jù)得到的分類(lèi)結(jié)果可能有較大不同，而且難以確定究竟哪種分類(lèi)更加科學(xué)。
[0004] 第二種分類(lèi)方法，基于數(shù)據(jù)挖掘聚類(lèi)分析的聚類(lèi)結(jié)果，將聚類(lèi)結(jié)果直接作為分類(lèi) 結(jié)果，這種方法具有較好的客觀性，但存在以下不足：
[0005] (1)主流的聚類(lèi)算法沒(méi)有給出確切的分類(lèi)標(biāo)準(zhǔn)，基于距離得到的聚類(lèi)簇中，不同樣 本的屬性值混雜，沒(méi)有確切的規(guī)律，可能某個(gè)簇的1〇〇個(gè)樣本中99個(gè)都是"性別=男性"，僅 有1個(gè)是"性別=女性"，使得分類(lèi)結(jié)果的實(shí)踐指導(dǎo)意義較差。
[0006] (2)對(duì)于一類(lèi)復(fù)雜的趨勢(shì)數(shù)據(jù)樣本，例如某超市每天的顧客購(gòu)物情況，使用聚類(lèi)分 析得到的簇，不能確定相鄰兩天得到的簇之間的關(guān)系，從而難以研究相關(guān)簇之間的時(shí)間序 列關(guān)系。
[0007] (3)主流的聚類(lèi)算法屬于隨機(jī)算法，基于隨機(jī)的初值，聚類(lèi)結(jié)果也隨著初值變化， 聚類(lèi)結(jié)果的不確定性在一定程度上影響了聚類(lèi)結(jié)果在實(shí)際應(yīng)用中的可信度。
[0008] 對(duì)樣本數(shù)據(jù)進(jìn)行分類(lèi)（提取常態(tài)模式）時(shí)，還會(huì)遇到"大數(shù)據(jù)"的問(wèn)題。隨著信息 技術(shù)的高速發(fā)展，人們積累的數(shù)據(jù)量急劇增長(zhǎng)，如何從海量的數(shù)據(jù)中提取有用的知識(shí)成為 當(dāng)務(wù)之急。經(jīng)過(guò)清洗的已知標(biāo)簽樣本數(shù)據(jù)匯總到中央數(shù)據(jù)庫(kù)。由于樣本量巨大，形成了維 數(shù)大、規(guī)模大、復(fù)雜性大的大數(shù)據(jù)形態(tài)，要挖掘其中有意義的知識(shí)和內(nèi)容以指導(dǎo)實(shí)際生產(chǎn)和 具體應(yīng)用，需要首先進(jìn)行降維處理，即維數(shù)約簡(jiǎn)，它一方面可以解決"維數(shù)災(zāi)難"，緩解大數(shù) 據(jù)中"信息豐富但知識(shí)貧乏"的問(wèn)題，降低計(jì)算的復(fù)雜度；另一方面可以引導(dǎo)人們更好地認(rèn) 識(shí)和理解數(shù)據(jù)。數(shù)據(jù)降維的方法很多，例如：根據(jù)數(shù)據(jù)本身的特性，可以分為線性降維和非 線性降維兩種；根據(jù)是否考慮和利用數(shù)據(jù)的監(jiān)督信息，可以分為無(wú)監(jiān)督降維、有監(jiān)督降維和 半監(jiān)督降維三種；根據(jù)是否需要保持?jǐn)?shù)據(jù)的結(jié)構(gòu)，可以分為全局保持降維、局部保持降維和 全局與局部保持一致降維等。
[0009] 在降維過(guò)程中，本專(zhuān)利旨在采用完全客觀的算法來(lái)選擇對(duì)樣本的已知標(biāo)簽具有較 大影響力的維度。也就是說(shuō)，這些在降維中被保留下來(lái)的維度不是主觀確定的，不依賴(lài)于經(jīng) 驗(yàn)?zāi)Ｐ汀?br>

【發(fā)明內(nèi)容】

[0010] 針對(duì)現(xiàn)有技術(shù)中存在的技術(shù)問(wèn)題，本發(fā)明的目的在于提供一種基于聚類(lèi)的大數(shù)據(jù) 常態(tài)模式提取方法及系統(tǒng)，本發(fā)明的常態(tài)模式劃分方法是基于聚類(lèi)分析的結(jié)果，具有較強(qiáng) 的客觀性，又有效的克服了主流聚類(lèi)算法的不足。
[0011] 本發(fā)明通過(guò)對(duì)樣本數(shù)據(jù)進(jìn)行聚類(lèi)分析，將所得"簇"作為已知的分類(lèi)標(biāo)準(zhǔn)（標(biāo)簽）， 提取屬性值辨識(shí)度、屬性辨識(shí)度、屬性值重要性、屬性重要性等"屬性對(duì)相似性的影響力"的 四項(xiàng)指標(biāo)，再使用全新的常態(tài)模式提取方法獲取"常態(tài)模式"，并給出常態(tài)模式的命名方法。
[0012] 本發(fā)明的技術(shù)方案為：
[0013] 一種基于聚類(lèi)的大數(shù)據(jù)常態(tài)模式提取方法，其步驟為：
[0014] 1)中央服務(wù)器從各終端服務(wù)器采集樣本數(shù)據(jù)，得到一總樣本數(shù)據(jù)集；
[0015] 2)從該總樣本數(shù)據(jù)集中抽取若干樣本，得到一抽樣樣本集合并對(duì)其進(jìn)行聚類(lèi)分 析，得到若干簇；將聚類(lèi)得到的簇作為樣本的標(biāo)簽，對(duì)樣本進(jìn)行標(biāo)注，然后根據(jù)選取的屬性 降維指標(biāo)計(jì)算所述抽樣樣本集合中已標(biāo)注樣本每一屬性的屬性值辨識(shí)度、屬性辨識(shí)度和或 屬性值重要性、屬性重要性；
[0016] 3)分別根據(jù)屬性值辨識(shí)度、屬性辨識(shí)度和或?qū)傩灾抵匾?、屬性重要性?duì)屬性進(jìn) 行排序，選取若干屬性作為大數(shù)據(jù)降維后保留的屬性；
[0017] 4)對(duì)屬性降維后的全體樣本數(shù)據(jù)進(jìn)行聚類(lèi)，將聚類(lèi)得到的簇作為樣本的標(biāo)簽，對(duì) 樣本進(jìn)行標(biāo)注；
[0018] 5)根據(jù)選取的屬性劃分指標(biāo)計(jì)算步驟4)中已標(biāo)注樣本每一屬性的屬性值辨識(shí) 度、屬性辨識(shí)度和或?qū)傩灾抵匾浴傩灾匾?，然后?duì)計(jì)算結(jié)果進(jìn)行排序選取若干屬性特 征對(duì)該總樣本數(shù)據(jù)集進(jìn)行劃分，將劃分結(jié)果作為常態(tài)模式；
[0019] 其中，屬性值辨識(shí)度的計(jì)算方法為：選取樣本一屬性i的一屬性值a，計(jì)算具有該 屬性值a的樣本屬于標(biāo)簽j的條件概率值，以及未增加該屬性值條件時(shí)樣本屬于該標(biāo)簽j 的概率值；將所述條件概率值與所述概率值的差值作為該屬性值a對(duì)于該標(biāo)簽j的屬性值 辨識(shí)度；將該屬性值a對(duì)于所有標(biāo)簽的屬性值辨識(shí)度的平方平均數(shù)作為該屬性值a的屬性 值辨識(shí)度；
[0020] 屬性辨識(shí)度的計(jì)算方法為：根據(jù)屬性i所有屬性值辨識(shí)度計(jì)算該屬性i的屬性辨 識(shí)度；
[0021] 屬性值重要性的計(jì)算方法為：將樣本屬性i取屬性值a時(shí)屬于標(biāo)簽j的樣本量乘 以該屬性值a對(duì)于該標(biāo)簽j的屬性辨識(shí)度，得到該屬性值a對(duì)于該標(biāo)簽j的屬性值重要性； 將該屬性值a對(duì)于所有標(biāo)簽的屬性值重要性的平方平均數(shù)作為該屬性值a的屬性值重要 性；
[0022] 屬性重要性的計(jì)算方法為：根據(jù)屬性i所有屬性值重要性計(jì)算該屬性i的屬性重 要性。
[0023] 進(jìn)一步的，對(duì)該屬性i所有屬性值的屬性值辨識(shí)度的平方平均數(shù)作為該屬性i的 屬性辨識(shí)度。
[0024] 進(jìn)一步的，對(duì)該屬性i所有屬性值的屬性值重要性的平方平均數(shù)作為該屬性i的 屬性重要性。
[0025] 進(jìn)一步的，分別選用屬性重要性最高的屬性、屬性辨識(shí)度最高的屬性對(duì)樣本進(jìn)行 劃分，得到所述常態(tài)模式；或者選取劃分結(jié)果與聚類(lèi)結(jié)果的差異量小的原則選擇屬性重要 性最高的屬性或?qū)傩员孀R(shí)度最高的屬性對(duì)樣本進(jìn)行劃分，得到所述常態(tài)模式。
[0026] 進(jìn)一步的，根據(jù)所述常態(tài)模式劃分所依據(jù)的屬性和屬性值，命名所述常態(tài)模式的 名稱(chēng)。
[0027] 進(jìn)一步的，命名所述常態(tài)模式的名稱(chēng)的方法為：在得到所述常態(tài)模式的過(guò)程中，記 錄每一所述常態(tài)模式所用到的屬性和屬性值；將第一所用的屬性和或?qū)傩灾涤涗洖楦?jié) 點(diǎn)，最后一次所用的屬性和或?qū)傩灾涤涗洖槿~節(jié)點(diǎn)；然后沿著根節(jié)點(diǎn)向該葉節(jié)點(diǎn)發(fā)展，將涉 及的全部屬性值的集合作為該常態(tài)模式的名稱(chēng)。
[0028] 本發(fā)明的系統(tǒng)主要如圖5所示，包括：
[0029] (1)數(shù)據(jù)采集模塊。
[0030] 將待分析的樣本數(shù)據(jù)從分布在各地的終端服務(wù)器數(shù)據(jù)庫(kù)中傳輸匯總到中央服務(wù) 器的數(shù)據(jù)庫(kù)中。
[0031] (2)數(shù)據(jù)降維模塊。
[0032] 對(duì)采集的樣本進(jìn)行抽樣和聚類(lèi)分析，得到若干簇，將聚類(lèi)得到的簇作為樣本的標(biāo) 簽，對(duì)樣本進(jìn)行標(biāo)注。計(jì)算標(biāo)注樣本每一屬性的屬性值辨識(shí)度、屬性辨識(shí)度以及屬性值重要 性、屬性重要性，提取由數(shù)據(jù)本身決定的"屬性對(duì)相似性的影響力"指標(biāo)；然后根據(jù)指標(biāo)計(jì)算 結(jié)果對(duì)屬性排序；選取排序靠前的屬性。
[0033] 本發(fā)明公開(kāi)了一種全新的常態(tài)模式劃分方法，可以建立在任何一種公知的聚類(lèi)分 析算法結(jié)果之上，提取由數(shù)據(jù)本身決定的"屬性對(duì)相似性的影響力"指標(biāo)，這些指標(biāo)包括：屬 性值辨識(shí)度、屬性辨識(shí)度、屬性值重要性、屬性重要性。本發(fā)明將聚類(lèi)分析獲得的簇作為已 知的分類(lèi)標(biāo)簽，由此，"屬性對(duì)相似性的影響力"指標(biāo)等價(jià)于"屬性對(duì)已知標(biāo)簽的影響力"指 標(biāo)。
[0034] 這是因?yàn)?，使用聚?lèi)分析方法讓數(shù)據(jù)通過(guò)無(wú)監(jiān)督學(xué)習(xí)生成若干"簇"，這些簇是基 于距離或相似度來(lái)確定的，滿(mǎn)足簇中的對(duì)象彼此相似，而與其他簇中的對(duì)象相異。粗略的 看，聚類(lèi)的結(jié)果與屬性和屬性值沒(méi)有直接關(guān)聯(lián)，即不是由某些屬性來(lái)劃分的。但是，考慮到 距離或相似度的定義基于屬性和屬性值，因此屬性和屬性值對(duì)簇的形成具有實(shí)際的影響， 而且不同的屬性和屬性值的影響力并不相同。因此，將聚類(lèi)分析獲得的簇作為已知的分類(lèi) 標(biāo)簽，進(jìn)而提取屬性對(duì)分類(lèi)的影響力的四項(xiàng)指標(biāo)具有實(shí)際意義。
[0035] (3)常態(tài)模式劃分模塊。
[0036] 常態(tài)模式，可以理解為樣本數(shù)據(jù)中的常見(jiàn)類(lèi)型，每個(gè)常態(tài)模式都是一組屬性值的 集合，常態(tài)模式集合是對(duì)全體樣本的一種劃分。例如，圖1中的一個(gè)常態(tài)模式可能是{顏色 =黑，形狀=方，尺寸=小}，該類(lèi)型包括了所有小的黑方塊，它對(duì)應(yīng)屬性值{顏色=黑}、 {形狀=方}和{尺寸=小}，是這三個(gè)屬性值的集合。當(dāng)然，某一個(gè)確實(shí)的常態(tài)模式中的 屬性值不一定是唯一的，因此，{:顏色=黑或灰，形狀=方，尺寸=小}也可能是一個(gè)常態(tài) 模式。另一方面，由于{顏色=黑，形狀=方或圓，尺寸=小}可以化簡(jiǎn)為{顏色=黑， 尺寸=小}，因此，常態(tài)模式對(duì)應(yīng)的屬性值不一定包含所有的屬性，也就是說(shuō)，有的屬性在常 態(tài)模式的劃分中并不重要。
[0037] 常態(tài)模式的另一個(gè)重要特點(diǎn)是"劃分"性，也就是"不重不漏"。兩個(gè)常態(tài)模式不能 擁有共同的樣本，即不相交；同時(shí)，絕大部分樣本都屬于某一個(gè)常態(tài)模式，只有少部分"異常 值"、"離群值"。
[0038] 直觀的講，一個(gè)樣本總體全體常態(tài)模式的集合對(duì)應(yīng)一個(gè)分類(lèi)樹(shù)，如圖2所示，就是 一個(gè)可能的常態(tài)模式集合。
[0039] 這些圖型具體應(yīng)該分成哪些常態(tài)模式難以劃分。本發(fā)明使用"先聚類(lèi)再分類(lèi)"的 技術(shù)，提取數(shù)據(jù)客觀蘊(yùn)含的屬性重要程度，給出客觀的分類(lèi)標(biāo)準(zhǔn)，即常態(tài)模式。
[0040] 常態(tài)模式覆蓋了絕大部分樣本，除了左下角灰底白點(diǎn)的大圓，這是異常值。
[0041] 一個(gè)需要區(qū)別的概念是正常類(lèi)型。事實(shí)上，常態(tài)模式并不等價(jià)于正常類(lèi)型，常態(tài)模 式只是從出現(xiàn)的頻率上給出了出現(xiàn)頻率高的劃分方法，并不意味著它一定是正常的、正確 的。例如，在道路上暫時(shí)沒(méi)有機(jī)動(dòng)車(chē)通過(guò)時(shí)行人闖紅燈過(guò)馬路，這是一種常見(jiàn)的行為，但卻 不是正確、合法的行為。當(dāng)然，一般來(lái)說(shuō)，常態(tài)模式是正常類(lèi)型，不屬于常態(tài)模式的異常值是 不正常的樣本。
[0042] 本發(fā)明通過(guò)提取屬性重要性和辨識(shí)度，獲取屬性值辨識(shí)度、屬性辨識(shí)度、屬性值重 要性、屬性重要性等四項(xiàng)指標(biāo)，也就是"屬性對(duì)相似性的影響力"。再使用全新的常態(tài)模式提 取方法獲取分類(lèi)結(jié)果，即"常態(tài)模式"。
[0043] 與現(xiàn)有技術(shù)相比，積極效果為：
[0044] (1)常態(tài)模式獲得的"類(lèi)"比聚類(lèi)分析獲得的"簇"，具有更加確切的分類(lèi)標(biāo)準(zhǔn)，排 除了由于其他屬性的干擾，使得個(gè)別樣本點(diǎn)分類(lèi)不準(zhǔn)確的現(xiàn)象，如圖3。例如，可能某個(gè)簇的 100個(gè)樣本中99個(gè)都是"性別=男性"，僅有1個(gè)是"性別=女性"，使得分類(lèi)結(jié)果的實(shí)踐指 導(dǎo)意義較差。而本專(zhuān)利將選擇"性別"屬性作為分類(lèi)標(biāo)準(zhǔn)，獲得"性別=男性"和"性別=女 性"兩個(gè)類(lèi)，分類(lèi)結(jié)果的實(shí)踐指導(dǎo)意義更好。進(jìn)一步，這個(gè)特殊的、錯(cuò)誤分類(lèi)的個(gè)體，可以作 為異常值研究對(duì)象。
[0045] (2)對(duì)于一類(lèi)復(fù)雜的趨勢(shì)數(shù)據(jù)樣本，例如某超市每天的顧客購(gòu)物情況，使用聚類(lèi)分 析得到的簇，不能確定相鄰兩天得到的簇之間的關(guān)系，從而難以研究相關(guān)簇之間的時(shí)間序 列關(guān)系。而使用本專(zhuān)利方法可以獲得常態(tài)模式并給出了常態(tài)模式的命名方法，則在不同時(shí) 間點(diǎn)的各個(gè)簇之間建立了明確的時(shí)間序列關(guān)系，即可以研究相同名稱(chēng)的簇的變化情況，以 及不同時(shí)間點(diǎn)簇的增加或減少情況。
[0046] (3)主流的聚類(lèi)算法屬于隨機(jī)算法，基于隨機(jī)的初值，聚類(lèi)結(jié)果也隨著初值變化， 聚類(lèi)結(jié)果的不確定性在一定程度上影響了聚類(lèi)結(jié)果在實(shí)際應(yīng)用中的可信度。而本發(fā)明由于 使用了"先聚類(lèi)再分類(lèi)"的方法確定常態(tài)模式，降低了初值對(duì)計(jì)算結(jié)果的影響，使分析結(jié)果 更加穩(wěn)定可信。
[0047] 本方法可應(yīng)用于公安情報(bào)數(shù)據(jù)分析、反腐敗數(shù)據(jù)分析、居民家庭用電情況分析、交 通出行模式分析、疾病特征數(shù)據(jù)分析、醫(yī)療數(shù)據(jù)分析、客戶(hù)市場(chǎng)細(xì)分等多種領(lǐng)域，獲取常見(jiàn) 類(lèi)型集合，從而促進(jìn)資源合理配置，本方法具有較強(qiáng)的普適性。

【專(zhuān)利附圖】

【附圖說(shuō)明】
[0048] 圖1為常態(tài)模式示意圖；
[0049] 圖2為常態(tài)模式實(shí)例圖；
[0050] 圖3為常態(tài)模式劃分方法結(jié)果對(duì)比圖；
[0051] (a)聚類(lèi)得到的簇，（b)先聚類(lèi)再分類(lèi)獲得的類(lèi)
[0052] 圖4為常態(tài)模式提取系統(tǒng)流程圖；
[0053] 圖5為常態(tài)模式提取系統(tǒng)結(jié)構(gòu)圖；
[0054] 圖6為劃分屬性的選擇圖；
[0055] (a)根據(jù)重要性最高的屬性（屬性A)劃分常態(tài)模式，
[0056] (b)根據(jù)辨識(shí)度最高的屬性（屬性B)劃分常態(tài)模式，
[0057] 圖7為類(lèi)與簇之間的差異圖；
[0058] (a)由聚類(lèi)分析獲得的五個(gè)簇，
[0059] (b)根據(jù)屬性的辨識(shí)度和重要性劃分?jǐn)?shù)據(jù)得到的四個(gè)類(lèi)；
[0060] 圖8為應(yīng)用實(shí)例發(fā)現(xiàn)與降維指標(biāo)計(jì)算結(jié)果圖；
[0061] 圖9為常態(tài)模式查看方法圖；
[0062] 圖10為時(shí)間序列分析和拐點(diǎn)分析預(yù)警示意圖。

【具體實(shí)施方式】
[0063] 本發(fā)明公開(kāi)了一種全新的基于聚類(lèi)的常態(tài)模式提取方法和系統(tǒng)，如圖4所示，包 括以下主要步驟。
[0064] 步驟1 :數(shù)據(jù)采集。
[0065] 數(shù)據(jù)采集模塊是本專(zhuān)利系統(tǒng)的硬件基礎(chǔ)。該模塊將待分析的樣本數(shù)據(jù)從分布在各 地的終端數(shù)據(jù)庫(kù)中傳輸匯總到中央數(shù)據(jù)庫(kù)。
[0066] 步驟2:數(shù)據(jù)清洗。
[0067] 通過(guò)數(shù)據(jù)采集終端匯總得到的數(shù)據(jù)，難免存在不完整、錯(cuò)誤、重復(fù)等現(xiàn)象。數(shù)據(jù)清 洗步驟用于過(guò)濾這些不符合要求的數(shù)據(jù)，過(guò)濾的結(jié)果將提交給相關(guān)主管部門(mén)，確認(rèn)是直接 過(guò)濾掉還是作為異常值提取出來(lái)做進(jìn)一步分析。
[0068] 步驟3:數(shù)據(jù)降維。
[0069] 經(jīng)過(guò)清洗的樣本數(shù)據(jù)匯總到中央數(shù)據(jù)庫(kù)。由于樣本量（N1)巨大，形成了維數(shù)大、 規(guī)模大、復(fù)雜性大的大數(shù)據(jù)形態(tài)，要挖掘其中有意義的知識(shí)和內(nèi)容以指導(dǎo)實(shí)際生產(chǎn)和具體 應(yīng)用，需要首先進(jìn)行降維處理，即維數(shù)約簡(jiǎn)，它一方面可以解決"維數(shù)災(zāi)難"，緩解大數(shù)據(jù)中 "信息豐富但知識(shí)貧乏"的問(wèn)題，降低計(jì)算的復(fù)雜度；另一方面可以引導(dǎo)人們更好地認(rèn)識(shí)和 理解數(shù)據(jù)。
[0070] 數(shù)據(jù)降維步驟包括以下子步驟：
[0071] 步驟3. 1 :數(shù)據(jù)抽樣。
[0072] 對(duì)全體樣本進(jìn)行系統(tǒng)抽樣（systematicsampling)。系統(tǒng)抽樣，又稱(chēng)機(jī)械抽樣、等距 抽樣。具體而言：
[0073] (1)由系統(tǒng)硬件運(yùn)轉(zhuǎn)能力確定適合的抽樣樣本量（N2)，定義壓縮比（M)為：
[0074] M = N1+N2;
[0075] (2)將全體樣本數(shù)據(jù)按某一順序排列起來(lái)，標(biāo)注唯一的序號(hào)；
[0076] (3)從前Μ個(gè)樣本中隨機(jī)的選出一個(gè)樣本作為抽樣樣本，記其序號(hào)為k ;
[0077] (4)將序號(hào)為k、k+M、k+2*M、...、k+(N2-l)*M的N2個(gè)樣本作為抽樣結(jié)果。
[0078] 步驟3.2 :數(shù)據(jù)聚類(lèi)。
[0079] 本步驟可以建立在任何一種公知的聚類(lèi)分析算法結(jié)果之上，通過(guò)對(duì)抽樣后的樣本 數(shù)據(jù)進(jìn)行聚類(lèi)分析，得到若干簇。
[0080] 步驟3. 3 :降維指標(biāo)選擇。
[0081] 針對(duì)抽樣得到的N2個(gè)樣本以及聚類(lèi)獲得的若干簇，可以通過(guò)后續(xù)的步驟計(jì)算降 維指標(biāo)（即"屬性對(duì)相似性的影響力"），并根據(jù)"影響力"的排序來(lái)確定降維后保留的屬性。 本系統(tǒng)提供降維指標(biāo)的選擇，可選擇的降維指標(biāo)有：
[0082] 降維指標(biāo)1 :屬性辨識(shí)度指標(biāo)；
[0083] 降維指標(biāo)2 :屬性重要性指標(biāo)。
[0084] 降維指標(biāo)選擇主要看待分析的問(wèn)題中"樣本量"因素是否重要，建議如下：
[0085] (1)如果"樣本量"因素不重要，應(yīng)選擇屬性辨識(shí)度指標(biāo)給出影響力排序；
[0086] (2)如果"樣本量"因素重要，應(yīng)選擇屬性重要性指標(biāo)給出影響力排序；
[0087] (3)如果想綜合考慮上述兩種情況，應(yīng)結(jié)合這兩個(gè)指標(biāo)給出綜合性的排序。
[0088] 步驟3. 4 :降維指標(biāo)計(jì)算。
[0089] 計(jì)算降維指標(biāo)，也就是計(jì)算每個(gè)屬性"對(duì)相似性的影響力"，具體包括：屬性辨識(shí)度 和屬性重要性，同時(shí)還需要計(jì)算兩個(gè)過(guò)渡性的指標(biāo)：屬性值辨識(shí)度和屬性值重要性。我們以 案例為基礎(chǔ)，說(shuō)明這四項(xiàng)指標(biāo)的主要計(jì)算步驟。系統(tǒng)將根據(jù)用戶(hù)在步驟3. 2中的選擇情況 計(jì)算相應(yīng)的指標(biāo)。
[0090] 四項(xiàng)指標(biāo)計(jì)算案例：
[0091] 一個(gè)包含100人的研究樣本，其中包含50名女性和50名男性，其中20人有前科。 通過(guò)聚類(lèi)分析獲得了兩個(gè)"簇"，其中"簇1"包含10個(gè)樣本，絕大部分是犯有盜竊罪的人， 而"簇2"包含90個(gè)樣本，絕大部分是未犯有盜竊罪的人。其他數(shù)據(jù)如表1。
[0092] 表1 :四項(xiàng)指標(biāo)計(jì)算案例
[0093]

【權(quán)利要求】
1. 一種基于聚類(lèi)的大數(shù)據(jù)常態(tài)模式提取方法，其步驟為： 1) 中央服務(wù)器從各終端服務(wù)器采集樣本數(shù)據(jù)，得到一總樣本數(shù)據(jù)集； 2) 從該總樣本數(shù)據(jù)集中抽取若干樣本，得到一抽樣樣本集合并對(duì)其進(jìn)行聚類(lèi)分析，得 到若干簇；將聚類(lèi)得到的簇作為樣本的標(biāo)簽，對(duì)樣本進(jìn)行標(biāo)注，然后根據(jù)選取的屬性降維指 標(biāo)計(jì)算所述抽樣樣本集合中已標(biāo)注樣本每一屬性的屬性值辨識(shí)度、屬性辨識(shí)度和或?qū)傩灾?重要性、屬性重要性； 3) 分別根據(jù)屬性值辨識(shí)度、屬性辨識(shí)度和或?qū)傩灾抵匾?、屬性重要性?duì)屬性進(jìn)行排 序，選取若干屬性作為大數(shù)據(jù)降維后保留的屬性； 4) 對(duì)屬性降維后的全體樣本數(shù)據(jù)進(jìn)行聚類(lèi)，將聚類(lèi)得到的簇作為樣本的標(biāo)簽，對(duì)樣本 進(jìn)行標(biāo)注； 5) 根據(jù)選取的屬性劃分指標(biāo)計(jì)算步驟4)中已標(biāo)注樣本每一屬性的屬性值辨識(shí)度、屬 性辨識(shí)度和或?qū)傩灾抵匾?、屬性重要性，然后?duì)計(jì)算結(jié)果進(jìn)行排序選取若干屬性特征對(duì) 該總樣本數(shù)據(jù)集進(jìn)行劃分，將劃分結(jié)果作為常態(tài)模式； 其中，屬性值辨識(shí)度的計(jì)算方法為：選取樣本一屬性i的一屬性值a，計(jì)算具有該屬性 值a的樣本屬于標(biāo)簽j的條件概率值，以及未增加該屬性值條件時(shí)樣本屬于該標(biāo)簽j的概 率值；將所述條件概率值與所述概率值的差值作為該屬性值a對(duì)于該標(biāo)簽j的屬性值辨識(shí) 度；將該屬性值a對(duì)于所有標(biāo)簽的屬性值辨識(shí)度的平方平均數(shù)作為該屬性值a的屬性值辨 識(shí)度； 屬性辨識(shí)度的計(jì)算方法為：根據(jù)屬性i所有屬性值辨識(shí)度計(jì)算該屬性i的屬性辨識(shí) 度； 屬性值重要性的計(jì)算方法為：將樣本屬性i取屬性值a時(shí)屬于標(biāo)簽j的樣本量乘以該 屬性值a對(duì)于該標(biāo)簽j的屬性辨識(shí)度，得到該屬性值a對(duì)于該標(biāo)簽j的屬性值重要性；將該 屬性值a對(duì)于所有標(biāo)簽的屬性值重要性的平方平均數(shù)作為該屬性值a的屬性值重要性； 屬性重要性的計(jì)算方法為：根據(jù)屬性i所有屬性值重要性計(jì)算該屬性i的屬性重要性。
2. 如權(quán)利要求1所述的方法，其特征在于對(duì)該屬性i所有屬性值的屬性值辨識(shí)度的平 方平均數(shù)作為該屬性i的屬性辨識(shí)度。
3. 如權(quán)利要求1所述的方法，其特征在于對(duì)該屬性i所有屬性值的屬性值重要性的平 方平均數(shù)作為該屬性i的屬性重要性。
4. 如權(quán)利要求1或2或3所述的方法，其特征在于分別選用屬性重要性最高的屬性、屬 性辨識(shí)度最高的屬性對(duì)樣本進(jìn)行劃分，得到所述常態(tài)模式；或者選取劃分結(jié)果與聚類(lèi)結(jié)果 的差異量小的原則選擇屬性重要性最高的屬性或?qū)傩员孀R(shí)度最高的屬性對(duì)樣本進(jìn)行劃分， 得到所述常態(tài)模式。
5. 如權(quán)利要求1或2或3所述的方法，其特征在于根據(jù)所述常態(tài)模式劃分所依據(jù)的屬 性和屬性值，命名所述常態(tài)模式的名稱(chēng)。
6. 如權(quán)利要求5所述的方法，其特征在于命名所述常態(tài)模式的名稱(chēng)的方法為：在得到 所述常態(tài)模式的過(guò)程中，記錄每一所述常態(tài)模式所用到的屬性和屬性值；將第一所用的屬 性和或?qū)傩灾涤涗洖楦?jié)點(diǎn)，最后一次所用的屬性和或?qū)傩灾涤涗洖槿~節(jié)點(diǎn)；然后沿著根 節(jié)點(diǎn)向該葉節(jié)點(diǎn)發(fā)展，將涉及的全部屬性值的集合作為該常態(tài)模式的名稱(chēng)。
7. -種基于聚類(lèi)的大數(shù)據(jù)常態(tài)模式提取系統(tǒng)，其特征在于包括多個(gè)終端服務(wù)器和一中 央服務(wù)器，所述終端服務(wù)器通過(guò)網(wǎng)絡(luò)與所述中央服務(wù)器連接；其中，所述中央服務(wù)器包括數(shù) 據(jù)采集模塊、數(shù)據(jù)降維模塊和常態(tài)模式劃分模塊； 所述數(shù)據(jù)采集模塊，用于從各終端服務(wù)器采集樣本數(shù)據(jù)，得到一總樣本數(shù)據(jù)集； 所述數(shù)據(jù)降維模塊，用于從該總樣本數(shù)據(jù)集中抽取若干樣本，得到一抽樣樣本集合并 對(duì)其進(jìn)行聚類(lèi)分析，得到若干簇；將聚類(lèi)得到的簇作為樣本的標(biāo)簽，對(duì)樣本進(jìn)行標(biāo)注，然后 根據(jù)選取的屬性降維指標(biāo)計(jì)算所述抽樣樣本集合中已標(biāo)注樣本每一屬性的屬性值辨識(shí)度、 屬性辨識(shí)度和或?qū)傩灾抵匾浴傩灾匾?，并根?jù)計(jì)算結(jié)果對(duì)屬性進(jìn)行排序，選取若干屬 性作為大數(shù)據(jù)降維后保留的屬性； 所述常態(tài)模式劃分模塊，用于對(duì)屬性降維后的全體樣本數(shù)據(jù)進(jìn)行聚類(lèi)，將聚類(lèi)得到的 簇作為樣本的標(biāo)簽，對(duì)樣本進(jìn)行標(biāo)注；然后根據(jù)選取的屬性劃分指標(biāo)對(duì)標(biāo)注樣本每一屬性 的屬性值辨識(shí)度、屬性辨識(shí)度和或?qū)傩灾抵匾浴傩灾匾?，然后?duì)計(jì)算結(jié)果進(jìn)行排序選 取若干屬性特征對(duì)該總樣本數(shù)據(jù)集進(jìn)行劃分，將劃分結(jié)果作為常態(tài)模式； 其中，屬性值辨識(shí)度的計(jì)算方法為：選取樣本一屬性i的一屬性值a，計(jì)算具有該屬性 值a的樣本屬于標(biāo)簽j的條件概率值，以及未增加該屬性值條件時(shí)樣本屬于該標(biāo)簽j的概 率值；將所述條件概率值與所述概率值的差值作為該屬性值a對(duì)于該標(biāo)簽j的屬性值辨識(shí) 度；將該屬性值a對(duì)于所有標(biāo)簽的屬性值辨識(shí)度的平方平均數(shù)作為該屬性值a的屬性值辨 識(shí)度； 屬性辨識(shí)度的計(jì)算方法為：根據(jù)屬性i所有屬性值辨識(shí)度計(jì)算該屬性i的屬性辨識(shí) 度； 屬性值重要性的計(jì)算方法為：將樣本屬性i取屬性值a時(shí)屬于標(biāo)簽j的樣本量乘以該 屬性值a對(duì)于該標(biāo)簽j的屬性辨識(shí)度，得到該屬性值a對(duì)于該標(biāo)簽j的屬性值重要性；將該 屬性值a對(duì)于所有標(biāo)簽的屬性值重要性的平方平均數(shù)作為該屬性值a的屬性值重要性； 屬性重要性的計(jì)算方法為：根據(jù)屬性i所有屬性值重要性計(jì)算該屬性i的屬性重要性。
8. 如權(quán)利要求7所述的系統(tǒng)，其特征在于對(duì)該屬性i所有屬性值的屬性值辨識(shí)度的平 方平均數(shù)作為該屬性i的屬性辨識(shí)度；對(duì)該屬性i所有屬性值的屬性值重要性的平方平均 數(shù)作為該屬性i的屬性重要性。
9. 如權(quán)利要求7所述的系統(tǒng)，其特征在于根據(jù)所述常態(tài)模式劃分所依據(jù)的屬性和屬性 值，命名所述常態(tài)模式的名稱(chēng)；所述中央服務(wù)器通過(guò)一常態(tài)模式發(fā)布器發(fā)布所述常態(tài)模式。
10. 如權(quán)利要求7或8或9所述的系統(tǒng)，其特征在于所述常態(tài)模式劃分模塊在得到所述 常態(tài)模式的過(guò)程中，記錄每一所述常態(tài)模式所用到的屬性和屬性值；將第一所用的屬性和 或?qū)傩灾涤涗洖楦?jié)點(diǎn)，最后一次所用的屬性和或?qū)傩灾涤涗洖槿~節(jié)點(diǎn)；然后沿著根節(jié)點(diǎn) 向該葉節(jié)點(diǎn)發(fā)展，將涉及的全部屬性值的集合作為該常態(tài)模式的名稱(chēng)。
【文檔編號(hào)】G06F17/30GK104156403SQ201410356957
【公開(kāi)日】2014年11月19日 申請(qǐng)日期:2014年7月24日 優(yōu)先權(quán)日:2014年7月24日
【發(fā)明者】王電, 魏毅, 黃煜可 申請(qǐng)人:中國(guó)軟件與技術(shù)服務(wù)股份有限公司