本發(fā)明屬于網(wǎng)絡(luò)安全的，具體涉及一種面向知識圖譜實體嵌入層次關(guān)系的數(shù)據(jù)免疫方法及裝置。

背景技術(shù)：

1、知識圖譜kg(knowledge?graph)是一種結(jié)構(gòu)化的圖形表示，用于描述現(xiàn)實世界中的實體、關(guān)系和事實，在人工智能、自然語言處理和數(shù)據(jù)挖掘等各個領(lǐng)域發(fā)揮著至關(guān)重要的作用。知識圖譜通常由節(jié)點、邊和三元組構(gòu)成，其中節(jié)點表示事物實體，邊表示事物實體之間的關(guān)系，形如(頭實體，關(guān)系，尾實體)的三元組表示描述頭尾實體間關(guān)系的事實。知識圖譜是目前計算機科學(xué)研究的重要領(lǐng)域，知識圖譜嵌入是知識圖譜的一個重要分支，其目的是將知識圖譜這種結(jié)構(gòu)化的數(shù)據(jù)轉(zhuǎn)化為高維向量，同時要保留知識圖譜本身的語義和拓?fù)浣Y(jié)構(gòu)，從而方便知識圖譜更好地為下游任務(wù)服務(wù)。隨著知識圖譜廣泛地應(yīng)用在語義搜索、推薦系統(tǒng)、對話系統(tǒng)等工業(yè)任務(wù)中，知識圖譜嵌入任務(wù)受到研究者們的重視，而針對知識圖譜嵌入任務(wù)的數(shù)據(jù)投毒也引起了研究者們的廣泛關(guān)注。就攻擊者而言，對知識圖譜嵌入模型的數(shù)據(jù)投毒可以一定程度地降低知識圖譜嵌入的準(zhǔn)確性，達到破壞敵方知識圖譜的目的；就使用者而言，研究知識圖譜嵌入的數(shù)據(jù)投毒攻擊有利于研究知識圖譜嵌入的深層原理，進一步提高嵌入的準(zhǔn)確率和魯棒性。

2、目前，針對知識圖譜嵌入的數(shù)據(jù)投毒攻擊有很多方法，例如基于三元組梯度的攻擊，基于知識圖譜關(guān)系模式的攻擊。層次關(guān)系被證明是知識數(shù)據(jù)中廣泛存在的一種語義關(guān)系，近年來出現(xiàn)了具備表達層次語義的知識圖譜嵌入模型，例如hake模型。

3、在inference?attack中攻擊者首先選定目標(biāo)三元組作為攻擊對象，同時也是產(chǎn)生毒化三元組的依據(jù)。inference?attack給出了三種攻擊策略?；谕x的攻擊，基于反義的攻擊和基于合成語義的攻擊。例如基于同義的攻擊中，三元組(a，朋友，b)作為目標(biāo)三元組，攻擊其中的a實體，則添加(c，朋友，b)這個虛構(gòu)的三元組(毒化三元組)，這導(dǎo)致在做鏈路預(yù)測(？，朋友，b)時，頭實體(？)為a的概率就降低了。例如基于反義的攻擊中，三元組(c，包括，d)作為目標(biāo)三元組，攻擊其中的c實體，則添加(d，包括，c)這個虛構(gòu)的三元組，(c，包括，d)這個三元組的置信度下降。例如基于合成語義攻擊中，(e，的老師是，f)，則可以考慮添加(e，的兒子是，g)，(g，的兒子是，f)這樣(e，的老師是，f)的置信度則下降了。以上是理解性的解釋，在實際操作中，inference?attack為了確定毒化三元組，提出了三種計算方式，分別是計算軟真分?jǐn)?shù)(衡量三元組滿足推理模式的標(biāo)準(zhǔn)，一個邏輯表達式為真的程度。同義和反義中，選擇軟真分?jǐn)?shù)最低的實體組成毒化三元組，組合攻擊中，利用k-means算法聚類所有可能的中間實體確定每個類別中g(shù)round?truth分?jǐn)?shù)最低的實體，在k個類別最低分中選擇最低分的實體組成毒化三元組)、鏈路預(yù)測排名(選擇鏈路預(yù)測任務(wù)排名比正確結(jié)果低一位的實體，組成誘餌三元組。模型很可能學(xué)到了一個信心很高的低分?jǐn)?shù))和余弦距離(模擬語義相似度，選擇與鏈路預(yù)測結(jié)果最不類似的實體，就是余弦距離最大的實體，使用它組成毒化三元組)。構(gòu)造出毒化數(shù)據(jù)以后，將數(shù)據(jù)添加至訓(xùn)練集中，則更新以后的模型目標(biāo)三元組的嵌入準(zhǔn)確率會有所下降。

技術(shù)實現(xiàn)思路

1、本發(fā)明的主要目的在于克服現(xiàn)有技術(shù)的缺點與不足，提供一種面向知識圖譜實體嵌入層次關(guān)系的數(shù)據(jù)免疫方法及裝置，通過利用知識圖譜構(gòu)造用于數(shù)據(jù)投毒攻擊的毒化數(shù)據(jù)，首次提出了針對層次關(guān)系的攻擊和攻擊思路，一方面能夠用于捕獲攻擊者的弱點并攻破攻擊者，另一方面能夠基于攻擊者的攻擊特點破壞目標(biāo)模型的嵌入結(jié)果，達到干擾知識圖譜嵌入應(yīng)用效果的目的。

2、為了達到上述目的，本發(fā)明采用以下技術(shù)方案：

3、第一方面，本發(fā)明提供了一種面向知識圖譜實體嵌入層次關(guān)系的數(shù)據(jù)免疫方法，包括下述步驟：

4、獲取目標(biāo)模型的層次信息，目標(biāo)模型包括多個目標(biāo)實體；

5、利用層次信息將第一層節(jié)點作為投毒樹的根節(jié)點，將相鄰節(jié)點作為投毒樹的其他層，構(gòu)建多個投毒樹，獲得森林；

6、選擇目標(biāo)實體，攻擊者根據(jù)需要選擇一個或者多個目標(biāo)實體作為攻擊目標(biāo)；

7、根據(jù)目標(biāo)實體在森林中的位置，攻擊者按照層次攻擊策略和攻擊者意圖構(gòu)造毒化數(shù)據(jù)；

8、將毒化數(shù)據(jù)添加到數(shù)據(jù)集，更新目標(biāo)模型，獲取被毒化模型；

9、利用被毒化模型識別攻擊者的攻擊特征，并對攻擊者采取攻擊或者防御措施。

10、作為優(yōu)選的技術(shù)方案，所述獲取目標(biāo)模型的層次信息，具體為：利用層次分類方法，將實體和關(guān)系映射在空間中，獲取層次信息；

11、所述目標(biāo)模型包括有獨立層次信息模型、可表達層次信息模型和非獨立層次信息模型。

12、作為優(yōu)選的技術(shù)方案，所述將相鄰節(jié)點作為投毒樹的其他層，包括：

13、將根節(jié)點的相鄰節(jié)點作為投毒樹的第二層；

14、將第二層節(jié)點的相鄰節(jié)點作為投毒樹的第三層。

15、作為優(yōu)選的技術(shù)方案，若被納入第二層的節(jié)點已經(jīng)出現(xiàn)在投毒樹的根節(jié)點中，則忽略此節(jié)點；重復(fù)將節(jié)點作為投毒樹的層，直到所有節(jié)點被納入樹結(jié)構(gòu)中。

16、作為優(yōu)選的技術(shù)方案，每個投毒樹具有ni層，計算每個投毒樹中的第i層位于獲得的層次信息中的第i層的占比，判斷投毒的可靠性。

17、作為優(yōu)選的技術(shù)方案，所述層次攻擊策略包括升層攻擊，具體為：

18、將攻擊實體設(shè)置在層次結(jié)構(gòu)第ni層，選擇在層次結(jié)構(gòu)第ni-2層的目標(biāo)實體；

19、計算ground?truth分?jǐn)?shù)，將最低ground?truth分?jǐn)?shù)的三元組作為毒化三元組。

20、作為優(yōu)選的技術(shù)方案，所述層次攻擊策略包括降層攻擊，具體為：

21、將攻擊實體設(shè)置在層次結(jié)構(gòu)第ni層，選擇層次結(jié)構(gòu)第ni+2層的目標(biāo)實體；

22、計算ground?truth分?jǐn)?shù)，將最低ground?truth分?jǐn)?shù)的三元組作為毒化三元組。

23、作為優(yōu)選的技術(shù)方案，所述層次攻擊策略包括反轉(zhuǎn)攻擊，具體為：

24、當(dāng)攻擊者的攻擊目標(biāo)為跨層次的三元組時，直接添加逆轉(zhuǎn)原始層次結(jié)構(gòu)的毒化三元組，通過不同標(biāo)準(zhǔn)確定新的關(guān)系，使得新構(gòu)成的毒化三元組對原三元組影響最大。

25、作為優(yōu)選的技術(shù)方案，所述層次攻擊策略包括同層攻擊，具體為：

26、在整個森林中ni-1或者ni+1層選擇攻擊實體；

27、選擇在層次結(jié)構(gòu)第ni層的目標(biāo)實體；

28、計算ground?truth分?jǐn)?shù)，將最低ground?truth分?jǐn)?shù)的三元組作為毒化三元組。

29、第二方面，本發(fā)明還提供了一種面向知識圖譜實體嵌入層次關(guān)系的數(shù)據(jù)免疫裝置，應(yīng)用于所述的面向知識圖譜實體嵌入層次關(guān)系的數(shù)據(jù)免疫方法，包括信息獲取模塊、森林構(gòu)建模塊、目標(biāo)選擇模塊、數(shù)據(jù)毒化模塊、模型更新模塊以及免疫防御模塊；

30、信息獲取模塊，用于獲取目標(biāo)模型的層次信息；

31、森林構(gòu)建模塊，用于利用層次信息將第一層節(jié)點作為投毒樹的根節(jié)點，將相鄰節(jié)點作為投毒樹的其他層，構(gòu)建多個投毒樹，獲得森林；

32、目標(biāo)選擇模塊，用于選擇目標(biāo)實體，攻擊者根據(jù)需要選擇一個或者多個目標(biāo)實體作為攻擊目標(biāo)；

33、數(shù)據(jù)毒化模塊，用于根據(jù)目標(biāo)實體在森林中的位置，攻擊者按照層次攻擊策略和攻擊者意圖構(gòu)造毒化數(shù)據(jù)；

34、模型更新模塊，用于將毒化數(shù)據(jù)添加到數(shù)據(jù)集，更新目標(biāo)模型，獲取被毒化模型；

35、免疫防御模塊，用于利用被毒化模型識別攻擊者的攻擊特征，并對攻擊者采取攻擊或者防御措施。

36、本發(fā)明與現(xiàn)有技術(shù)相比，具有如下優(yōu)點和有益效果：

37、(1)本發(fā)明利用知識圖譜的層次關(guān)系構(gòu)建毒化樹，能夠提高知識圖譜的數(shù)據(jù)篩查效率，提高知識圖譜模型對層次關(guān)系更具有傾向性，從而提高模型的魯棒性。

38、(2)本發(fā)明根據(jù)模型是否可以表達層次信息進行了合理劃分，并依據(jù)不同的層次攻擊策略和攻擊意圖構(gòu)建新的構(gòu)造毒化數(shù)據(jù)，從而能夠分析獲得知識圖譜嵌入結(jié)果的層次信息，增強了對知識圖譜嵌入層次結(jié)構(gòu)的針對性。