本發(fā)明涉及一種隱私保護(hù)的圖聯(lián)邦節(jié)點異常檢測方法，屬于聯(lián)邦學(xué)習(xí)。

背景技術(shù)：

1、圖聯(lián)邦節(jié)點異常檢測旨在發(fā)現(xiàn)顯著偏離大多數(shù)節(jié)點的罕見行為。由于其為無監(jiān)督學(xué)習(xí)，需要大量的圖數(shù)據(jù)挖掘?qū)傩詧D的異常特征，異常屬性圖數(shù)據(jù)受限于數(shù)據(jù)安全、隱私保護(hù)等問題無法集中存儲，從而造成圖數(shù)據(jù)“孤島”的問題難以解決。為了解決該問題，圖聯(lián)邦學(xué)習(xí)(graph?federated?learning)技術(shù)被提出并逐漸應(yīng)用于實際場景。該技術(shù)是一種特殊的機(jī)器學(xué)習(xí)范式，它應(yīng)對了數(shù)據(jù)集中存儲難題，旨在解決多個參與實體(客戶端)的協(xié)同問題。在這種框架下，每個客戶端的原始圖數(shù)據(jù)被安全地存儲在本地，沒有數(shù)據(jù)交換或遷移的必要，從而在滿足隱私保護(hù)和數(shù)據(jù)安全性要求的同時，允許各個實體進(jìn)行協(xié)同學(xué)習(xí)。該技術(shù)通過一個中央服務(wù)器或服務(wù)提供商的協(xié)調(diào)下進(jìn)行，使得各個客戶端可以共同優(yōu)化圖節(jié)點異常檢測模型，同時不會暴露客戶端的隱私數(shù)據(jù)。圖聯(lián)邦學(xué)習(xí)已經(jīng)在許多領(lǐng)域中得到了應(yīng)用，但是也存在被攻擊的可能?？蛻舳伺c服務(wù)器在交互過程中可能發(fā)生梯度泄露的問題，或者服務(wù)器端存在惡意行為，可以通過客戶端上傳的梯度信息進(jìn)行梯度泄露攻擊，從而獲取到服務(wù)器的隱私數(shù)據(jù)，對客戶端的安全造成影響。

2、在圖聯(lián)邦節(jié)點異常檢測方法中，通常采用差分隱私機(jī)制來確保訓(xùn)練過程中客戶端模型的梯度信息得到保護(hù)，不會暴露給其他參與方或中央服務(wù)器。而無差別地對梯度信息添加噪聲會扭曲原始梯度的分布，從而使得服務(wù)器難以從這些被擾動的梯度信息中學(xué)習(xí)到有效的信息，從而大大影響了模型聚合的效率和最終模型的性能。

技術(shù)實現(xiàn)思路

1、在下文中給出了關(guān)于本發(fā)明的簡要概述，以便提供關(guān)于本發(fā)明的某些方面的基本理解。應(yīng)當(dāng)理解，這個概述并不是關(guān)于本發(fā)明的窮舉性概述。它并不是意圖確定本發(fā)明的關(guān)鍵或重要部分，也不是意圖限定本發(fā)明的范圍。其目的僅僅是以簡化的形式給出某些概念，以此作為稍后論述的更詳細(xì)描述的前序。

2、鑒于此，為解決現(xiàn)有技術(shù)中存在圖聯(lián)邦節(jié)點異常檢測方法不能有效且嚴(yán)格地保護(hù)參與方的圖數(shù)據(jù)隱私性和參數(shù)噪音加強所帶來的精度損失的技術(shù)問題，本發(fā)明提供一種隱私保護(hù)的圖聯(lián)邦節(jié)點異常檢測方法。

3、方案一、一種隱私保護(hù)的圖聯(lián)邦節(jié)點異常檢測方法，包括：

4、s1.構(gòu)建圖節(jié)點異常檢測模型，客戶端利用本地圖異常訓(xùn)練數(shù)據(jù)集訓(xùn)練各自的圖節(jié)點異常檢測模型，通過最小化損失函數(shù)得到客戶端本地模型參數(shù)和累積的梯度信息；

5、s2.使用客戶端本地模型參數(shù)進(jìn)行預(yù)測，將本地圖異常訓(xùn)練數(shù)據(jù)集輸入至訓(xùn)練好的圖節(jié)點異常檢測模型，模型輸出各節(jié)點的異常分?jǐn)?shù)，客戶端對模型使用分層相關(guān)性傳播算法，得到各神經(jīng)元的相關(guān)性權(quán)重，獲得隱私保護(hù)的梯度信息，客戶端將隱私保護(hù)的梯度信息發(fā)送到云服務(wù)器；

6、s3.云服務(wù)器對接收到的多個隱私保護(hù)的梯度信息進(jìn)行聚合運算，使用聚合后的梯度信息對全局模型進(jìn)行更新，獲得全局模型參數(shù)；將所述全局模型參數(shù)廣播下發(fā)至客戶端；

7、s4.迭代執(zhí)行s1至s3直到達(dá)到預(yù)設(shè)的模型聚合次數(shù)后停止執(zhí)行，完成隱私保護(hù)的圖聯(lián)邦節(jié)點異常模型的訓(xùn)練，將圖節(jié)點數(shù)據(jù)集輸入至圖節(jié)點異常檢測模型，模型輸出各節(jié)點的異常分?jǐn)?shù)。

8、優(yōu)選的，圖節(jié)點異常檢測模型包括特征編碼器、屬性解碼器、特征解碼器和異常分?jǐn)?shù)計算模塊；給定輸入圖數(shù)據(jù)集g，應(yīng)用編碼器enc(·)以將數(shù)據(jù)映射到潛在低維特征空間中，然后解碼器dec(·)嘗試基于潛在表示來恢復(fù)原始圖數(shù)據(jù)，學(xué)習(xí)過程可以被描述為最小化下面描述的成本函數(shù)：

9、dist(g，dec(enc(g)))

10、其中，dist(·，·)是預(yù)定義的距離度量，選擇l2范數(shù)距離來度量重建誤差。

11、優(yōu)選的，特征編碼器對網(wǎng)絡(luò)結(jié)構(gòu)和節(jié)點屬性進(jìn)行建模，得到屬性節(jié)點的嵌入表示；使用三個圖卷積層構(gòu)建特征編碼器，特征編碼器被公式化為：

12、h(1)＝frelu(x，a|w(0))

13、h(2)＝frelu(h(1)，a|w(1))

14、z＝h(3)＝frelu(h(2)，a|w(2))

15、其中，h(l)是圖卷積層l的輸入，h(l+1)是圖卷積層l的輸出，x是輸入圖的屬性矩陣，等同于h(0)，w(l)是卷積層l需要學(xué)習(xí)的權(quán)重矩陣，a是輸入圖的鄰接矩陣，frelu(·)是指使用relu激活函數(shù)的圖卷積層。

16、優(yōu)選的，屬性解碼器和結(jié)構(gòu)解碼器，用于將節(jié)點的嵌入表示重構(gòu)為原始網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)和原始節(jié)點屬性；

17、屬性解碼器通過多層感知機(jī)預(yù)測原始節(jié)點的屬性，激活函數(shù)為relu函數(shù)，將嵌入表示z作為屬性解碼器的輸入，輸出為重構(gòu)出的屬性矩陣被公式化為：

18、

19、結(jié)構(gòu)解碼器通過sigmoid函數(shù)計算原始的結(jié)構(gòu)信息，預(yù)測每對節(jié)點之間是否存在鏈接，將嵌入表示z作為結(jié)構(gòu)解碼器的輸入，輸出為重構(gòu)出的結(jié)構(gòu)矩陣被公式化為：

20、

21、通過解碼器的重構(gòu)，得到網(wǎng)絡(luò)結(jié)構(gòu)信息的重構(gòu)誤差和屬性結(jié)構(gòu)的重構(gòu)誤差從而得到模型的損失函數(shù)：

22、

23、其中，α為平衡結(jié)構(gòu)和屬性重構(gòu)誤差的重要參數(shù)；對于不確定的數(shù)據(jù)輸入，α的值具有不確定性，因此，在訓(xùn)練過程中模型自動調(diào)整權(quán)重α以獲得最佳的平衡指數(shù)，通過最小化損失函數(shù)，對應(yīng)模型參數(shù)和平衡參數(shù)α。

24、優(yōu)選的，異常分?jǐn)?shù)計算模塊使用節(jié)點屬性和網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)的重構(gòu)誤差判斷節(jié)點的異常排名分?jǐn)?shù)，模型的輸入為g(x,a)，表示為屬性圖的結(jié)構(gòu)信息，表示為屬性圖的屬性矩陣；

25、計算節(jié)點vi的異常分?jǐn)?shù)并將所有節(jié)點的異常分?jǐn)?shù)排名得到異常結(jié)點，具有較大分?jǐn)?shù)的節(jié)點更有可能是異常節(jié)點：其中，α為平衡結(jié)構(gòu)和屬性重構(gòu)誤差的權(quán)重參數(shù)。

26、優(yōu)選的，客戶端對本地模型逐層使用分層相關(guān)性傳播算法，將圖神經(jīng)網(wǎng)絡(luò)的輸出決策反向傳播到輸入空間，得到第l層的第i個神經(jīng)元的輸入對于結(jié)果的貢獻(xiàn)第l層的分層相關(guān)性傳播算法的具體公式為：

27、

28、其中，l是規(guī)范圖拉普拉斯算子，是的度矩陣，每個元素是第l層的第k個神經(jīng)元的輸出結(jié)果，表示對所有連接到第l層的第k個神經(jīng)元的輸入的權(quán)重進(jìn)行求和，與之間的乘法是向量中元素乘積，而與之間的除法是向量中元素之間的除法；

29、第l層的第i個神經(jīng)元參數(shù)對于結(jié)果的相關(guān)性權(quán)重的計算公式為：

30、

31、其中，是第l層的第i個神經(jīng)元參數(shù)對于結(jié)果的貢獻(xiàn)，l是規(guī)范圖拉普拉斯算子，h1是圖卷積層l的輸出，wl是圖卷積層l的參數(shù)；

32、客戶端使用高斯機(jī)制對梯度信息進(jìn)行差分隱私處理，滿足(∈，δ)-差分隱私，根據(jù)梯度裁剪閾值s對梯度信息進(jìn)行裁剪來明確其敏感度，裁剪后的梯度為：

33、

34、根據(jù)梯度裁剪閾值s與隱私參數(shù)∈和δ計算所添加噪聲的本地標(biāo)準(zhǔn)差σ，公式為：

35、

36、生成對應(yīng)的噪聲矩陣，與歸一化后的相關(guān)性權(quán)重矩陣norm(rv)的倒數(shù)相乘得到需要添加的噪聲數(shù)據(jù)，與梯度信息相加獲得隱私保護(hù)的梯度信息，公式為：

37、

38、其中，是指均值為0，方差為σ2的正態(tài)分布，是客戶端k在t+1輪的梯度信息。

39、優(yōu)選的，云服務(wù)器接收到的多個隱私保護(hù)的梯度信息，從中隨機(jī)選擇|st|個梯度使用聯(lián)邦平均算法進(jìn)行聚合運算，得到全局的梯度更新數(shù)據(jù)，然后使用聚合后的梯度信息對全局模型使用隨機(jī)梯度下降進(jìn)行更新，獲得第t輪通信的全局模型參數(shù)，公式為：

40、

41、wt+1←sgd(wt，δgt+1)。

42、方案二、一種電子設(shè)備，包括存儲器和處理器，存儲器存儲有計算機(jī)程序，所述的處理器執(zhí)行所述計算機(jī)程序時實現(xiàn)方案一所述的一種隱私保護(hù)的圖聯(lián)邦節(jié)點異常檢測方法的步驟。

43、方案三、一種計算機(jī)可讀存儲介質(zhì)，其上存儲有計算機(jī)程序，所述計算機(jī)程序被處理器執(zhí)行時實現(xiàn)方案一所述的一種隱私保護(hù)的圖聯(lián)邦節(jié)點異常檢測方法。

44、本發(fā)明的有益效果如下：本發(fā)明針對圖聯(lián)邦節(jié)點異常檢測場景確定模型，通過分層相關(guān)性傳播算法與高斯機(jī)制差分隱私方法的結(jié)合設(shè)計了一種安全可靠的隱私保護(hù)方法。本發(fā)明實現(xiàn)了在圖聯(lián)邦節(jié)點異常檢測場景下有效且嚴(yán)格的降低了圖節(jié)點異常訓(xùn)練數(shù)據(jù)的隱私泄露問題，能夠?qū)崿F(xiàn)客戶端的隱私保護(hù)，防止敵手通過竊聽或者云端聚合時從上傳的梯度信息進(jìn)行梯度泄露攻擊推理出客戶端的隱私信息；根據(jù)相關(guān)性權(quán)重動態(tài)地調(diào)整噪聲對模型梯度不同部分的關(guān)注度，有效降低了差分隱私機(jī)制對于原始梯度信息分布的扭曲程度，從而提升了圖節(jié)點異常檢測模型的訓(xùn)練效果和性能。