本公開(kāi)涉及計(jì)算機(jī)的，具體而言，涉及一種聯(lián)邦學(xué)習(xí)模型的訓(xùn)練方法、裝置、電子設(shè)備及存儲(chǔ)介質(zhì)。

背景技術(shù)：

1、聯(lián)邦學(xué)習(xí)(federated?learning)系統(tǒng)是一種分布式機(jī)器學(xué)習(xí)模式，可以在不泄露數(shù)據(jù)的前提下，用多個(gè)客戶(hù)端的數(shù)據(jù)共同訓(xùn)練模型，實(shí)現(xiàn)數(shù)據(jù)可用不可見(jiàn)。

2、在某個(gè)或多個(gè)客戶(hù)端申請(qǐng)退出聯(lián)邦學(xué)習(xí)系統(tǒng)的情況下，需要遺忘上述客戶(hù)端提供的訓(xùn)練數(shù)據(jù)和訓(xùn)練效果。目前，在重新迭代訓(xùn)練得到上述客戶(hù)端退出之后的訓(xùn)練后聯(lián)邦學(xué)習(xí)模型之后，可以通過(guò)構(gòu)造距離函數(shù)，評(píng)價(jià)訓(xùn)練后聯(lián)邦學(xué)習(xí)模型與客戶(hù)端未退出之間的聯(lián)邦學(xué)習(xí)模型之間的差異。但是，該方法不能評(píng)估訓(xùn)練后聯(lián)邦學(xué)習(xí)模型遺忘訓(xùn)練數(shù)據(jù)的程度，導(dǎo)致需要遺忘的訓(xùn)練數(shù)據(jù)遺忘不徹底的問(wèn)題。針對(duì)這個(gè)情況，需要提供一種可以評(píng)估標(biāo)聯(lián)邦學(xué)習(xí)模型遺忘訓(xùn)練數(shù)據(jù)的程度，并根據(jù)遺忘訓(xùn)練數(shù)據(jù)的程度調(diào)整聯(lián)邦學(xué)習(xí)模型參數(shù)得到訓(xùn)練后聯(lián)邦學(xué)習(xí)模型的方法。

技術(shù)實(shí)現(xiàn)思路

1、本公開(kāi)實(shí)施例至少提供一種聯(lián)邦學(xué)習(xí)模型的訓(xùn)練方法、裝置、電子設(shè)備及存儲(chǔ)介質(zhì)。

2、第一方面，本公開(kāi)實(shí)施例提供了一種聯(lián)邦學(xué)習(xí)模型的訓(xùn)練方法，包括：

3、在聯(lián)邦學(xué)習(xí)系統(tǒng)中第一客戶(hù)端退出聯(lián)邦學(xué)習(xí)模型的訓(xùn)練任務(wù)的情況下，基于所述聯(lián)邦學(xué)習(xí)模型的模型結(jié)構(gòu)構(gòu)建初始遺忘學(xué)習(xí)模型；

4、基于所述第一客戶(hù)端的第一樣本和未退出的第二客戶(hù)端執(zhí)行該訓(xùn)練任務(wù)后的模型參數(shù)，訓(xùn)練所述初始遺忘學(xué)習(xí)模型，得到中間遺忘學(xué)習(xí)模型；

5、確定所述第一客戶(hù)端退出所述訓(xùn)練任務(wù)前聯(lián)邦學(xué)習(xí)模型對(duì)該第一樣本的第一處理結(jié)果和所述中間遺忘學(xué)習(xí)模型對(duì)該第一樣本的第二處理結(jié)果；

6、通過(guò)訓(xùn)練后攻擊模型對(duì)所述第一處理結(jié)果和所述第二處理結(jié)果進(jìn)行處理，得到所述中間遺忘學(xué)習(xí)模型對(duì)該第一樣本的遺忘程度，并根據(jù)所述遺忘程度調(diào)整所述中間遺忘學(xué)習(xí)模型的參數(shù)，得到訓(xùn)練后聯(lián)邦學(xué)習(xí)模型。

7、一種可選的實(shí)施方式中，所述基于所述第一客戶(hù)端的第一樣本和未退出的第二客戶(hù)端執(zhí)行該訓(xùn)練任務(wù)后的模型參數(shù)，訓(xùn)練所述初始遺忘學(xué)習(xí)模型，得到中間遺忘學(xué)習(xí)模型，包括：

8、獲取所述第一客戶(hù)端退出所述訓(xùn)練任務(wù)之前，所述第二客戶(hù)端執(zhí)行所述訓(xùn)練任務(wù)后得到的所述聯(lián)邦學(xué)習(xí)模型的目標(biāo)模型參數(shù)；

9、通過(guò)所述初始遺忘學(xué)習(xí)模型處理所述第一樣本，得到輸出結(jié)果；

10、基于所述輸出結(jié)果和所述目標(biāo)模型參數(shù)構(gòu)建目標(biāo)損失模型，并對(duì)所述目標(biāo)損失模型進(jìn)行求解，根據(jù)求解結(jié)果訓(xùn)練所述初始遺忘學(xué)習(xí)模型，得到中間遺忘學(xué)習(xí)模型。

11、一種可選的實(shí)施方式中，所述基于所述輸出結(jié)果和所述目標(biāo)模型參數(shù)構(gòu)建目標(biāo)損失模型，并對(duì)所述目標(biāo)損失模型進(jìn)行求解，根據(jù)求解結(jié)果訓(xùn)練所述初始遺忘學(xué)習(xí)模型，得到中間遺忘學(xué)習(xí)模型，包括：

12、基于所述初始遺忘學(xué)習(xí)模型的參數(shù)變量和所述輸出結(jié)果，確定目標(biāo)損失函數(shù)，并基于所述目標(biāo)模型參數(shù)和所述參數(shù)變量，確定目標(biāo)約束條件；其中，所述目標(biāo)約束條件用于指示所述目標(biāo)模型參數(shù)和所述參數(shù)變量之間的差值；

13、基于所述目標(biāo)約束條件，對(duì)所述目標(biāo)損失函數(shù)進(jìn)行最優(yōu)求解，得到所述參數(shù)變量的目標(biāo)變量值；其中，所述目標(biāo)變量值用于指示所述差值滿(mǎn)足預(yù)設(shè)差值要求的情況下，所述目標(biāo)損失函數(shù)最大時(shí)參數(shù)變量的變量值；

14、基于所述目標(biāo)變量值調(diào)整所述初始遺忘學(xué)習(xí)模型的模型參數(shù)，得到所述中間遺忘學(xué)習(xí)模型。

15、一種可選的實(shí)施方式中，所述基于所述輸出結(jié)果和所述目標(biāo)模型參數(shù)構(gòu)建目標(biāo)損失模型，包括：

16、對(duì)所述目標(biāo)模型參數(shù)進(jìn)行均值處理，得到均值模型參數(shù)；

17、基于所述輸出結(jié)果和所述均值模型參數(shù)，構(gòu)建所述目標(biāo)損失模型。

18、一種可選的實(shí)施方式中，在通過(guò)訓(xùn)練后攻擊模型對(duì)所述第一處理結(jié)果和所述第二處理結(jié)果進(jìn)行處理之前，所述方法還包括：

19、獲取所述第二客戶(hù)端的第二樣本和不屬于所述聯(lián)邦學(xué)習(xí)系統(tǒng)的第三客戶(hù)端的第三樣本；

20、基于所述第二樣本確定待訓(xùn)練攻擊模型的正訓(xùn)練樣本，基于所述第三樣本確定待訓(xùn)練攻擊模型的負(fù)訓(xùn)練樣本；

21、基于所述正訓(xùn)練樣本和所述負(fù)訓(xùn)練樣本，對(duì)所述待訓(xùn)練攻擊模型進(jìn)行訓(xùn)練，得到所述訓(xùn)練后攻擊模型。

22、一種可選的實(shí)施方式中，所述基于所述第二樣本確定待訓(xùn)練攻擊模型的正訓(xùn)練樣本，基于所述第三樣本確定待訓(xùn)練攻擊模型的負(fù)訓(xùn)練樣本，包括：

23、通過(guò)第一客戶(hù)端退出之前的聯(lián)邦學(xué)習(xí)模型對(duì)所述第二樣本進(jìn)行處理，得到第一結(jié)果，并通過(guò)所述中間遺忘學(xué)習(xí)模型對(duì)所述第二樣本進(jìn)行處理，得到第二結(jié)果；

24、通過(guò)所述第一客戶(hù)端退出之前的聯(lián)邦學(xué)習(xí)模型對(duì)所述第三樣本進(jìn)行處理，得到第三結(jié)果，并通過(guò)所述中間遺忘學(xué)習(xí)模型對(duì)所述第三樣本進(jìn)行處理，得到第四結(jié)果；

25、基于所述第一結(jié)果、所述第二結(jié)果和所述第二樣本的樣本標(biāo)簽，確定所述正訓(xùn)練樣本，以及基于所述第三結(jié)果、所述第四結(jié)果和所述第三樣本的樣本標(biāo)簽，確定所述負(fù)訓(xùn)練樣本；其中，所述樣本標(biāo)簽用于指示對(duì)應(yīng)樣本是否已退出聯(lián)邦學(xué)習(xí)模型的訓(xùn)練過(guò)程。

26、一種可選的實(shí)施方式中，所述通過(guò)訓(xùn)練后攻擊模型對(duì)所述第一處理結(jié)果和所述第二處理結(jié)果進(jìn)行處理，得到所述中間遺忘學(xué)習(xí)模型對(duì)該第一樣本的遺忘程度，包括：

27、通過(guò)所述訓(xùn)練后攻擊模型對(duì)所述第一處理結(jié)果和所述第二處理結(jié)果進(jìn)行處理，得到所述訓(xùn)練后攻擊模型的輸出；

28、對(duì)所述訓(xùn)練后攻擊模型的輸出進(jìn)行處理，得到所述中間遺忘學(xué)習(xí)模型對(duì)該第一樣本的遺忘程度。

29、一種可選的實(shí)施方式中，所述根據(jù)所述遺忘程度調(diào)整所述中間遺忘學(xué)習(xí)模型的參數(shù)，得到訓(xùn)練后聯(lián)邦學(xué)習(xí)模型，包括：

30、在所述遺忘程度小于預(yù)設(shè)程度閾值的情況下，根據(jù)所述遺忘程度調(diào)整所述中間遺忘學(xué)習(xí)模型的參數(shù)，并返回執(zhí)行確定該中間遺忘學(xué)習(xí)模型對(duì)該第一樣本的第二處理結(jié)果的步驟，直至在得到遺忘程度大于等于預(yù)設(shè)程度閾值的情況下，將當(dāng)前時(shí)刻調(diào)整后的中間遺忘學(xué)習(xí)模型確定為所述訓(xùn)練后聯(lián)邦學(xué)習(xí)模型。

31、一種可選的實(shí)施方式中，所述根據(jù)所述遺忘程度調(diào)整所述中間遺忘學(xué)習(xí)模型的參數(shù)，得到訓(xùn)練后聯(lián)邦學(xué)習(xí)模型，還包括：

32、在所述遺忘程度大于等于預(yù)設(shè)程度閾值的情況下，將所述中間遺忘學(xué)習(xí)模型確定為所述訓(xùn)練后聯(lián)邦學(xué)習(xí)模型。

33、第二方面，本公開(kāi)實(shí)施例還提供一種聯(lián)邦學(xué)習(xí)模型的訓(xùn)練裝置，包括：

34、構(gòu)建模塊，用于在聯(lián)邦學(xué)習(xí)系統(tǒng)中第一客戶(hù)端退出聯(lián)邦學(xué)習(xí)模型的訓(xùn)練任務(wù)的情況下，基于所述聯(lián)邦學(xué)習(xí)模型的模型結(jié)構(gòu)構(gòu)建初始遺忘學(xué)習(xí)模型；

35、訓(xùn)練模塊，用于基于所述第一客戶(hù)端的第一樣本和未退出的第二客戶(hù)端執(zhí)行該訓(xùn)練任務(wù)后的模型參數(shù)，訓(xùn)練所述初始遺忘學(xué)習(xí)模型，得到中間遺忘學(xué)習(xí)模型；

36、確定模塊，用于確定所述第一客戶(hù)端退出所述訓(xùn)練任務(wù)前聯(lián)邦學(xué)習(xí)模型對(duì)該第一樣本的第一處理結(jié)果和所述中間遺忘學(xué)習(xí)模型對(duì)該第一樣本的第二處理結(jié)果；

37、調(diào)整模塊，用于通過(guò)訓(xùn)練后攻擊模型對(duì)所述第一處理結(jié)果和所述第二處理結(jié)果進(jìn)行處理，得到所述中間遺忘學(xué)習(xí)模型對(duì)該第一樣本的遺忘程度，并根據(jù)所述遺忘程度調(diào)整所述中間遺忘學(xué)習(xí)模型的參數(shù)，得到訓(xùn)練后聯(lián)邦學(xué)習(xí)模型。

38、第三方面，本公開(kāi)實(shí)施例還提供一種電子設(shè)備，包括：處理器、存儲(chǔ)器和總線(xiàn)，所述存儲(chǔ)器存儲(chǔ)有所述處理器可執(zhí)行的機(jī)器可讀指令，當(dāng)電子設(shè)備運(yùn)行時(shí)，所述處理器與所述存儲(chǔ)器之間通過(guò)總線(xiàn)通信，所述機(jī)器可讀指令被所述處理器執(zhí)行時(shí)執(zhí)行上述第一方面，或第一方面中任一種可能的實(shí)施方式中的步驟。

39、第四方面，本公開(kāi)實(shí)施例還提供一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，該計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)上存儲(chǔ)有計(jì)算機(jī)程序，該計(jì)算機(jī)程序被處理器運(yùn)行時(shí)執(zhí)行上述第一方面，或第一方面中任一種可能的實(shí)施方式中的步驟。

40、在本公開(kāi)的實(shí)施例中，首先，在聯(lián)邦學(xué)習(xí)系統(tǒng)中第一客戶(hù)端退出聯(lián)邦學(xué)習(xí)模型的訓(xùn)練任務(wù)的情況下，基于聯(lián)邦學(xué)習(xí)模型的模型結(jié)構(gòu)構(gòu)建初始遺忘學(xué)習(xí)模型；其次，基于第一客戶(hù)端的第一樣本和未退出的第二客戶(hù)端執(zhí)行該訓(xùn)練任務(wù)后的模型參數(shù)，訓(xùn)練初始遺忘學(xué)習(xí)模型，得到中間遺忘學(xué)習(xí)模型；之后，確定第一客戶(hù)端退出訓(xùn)練任務(wù)前聯(lián)邦學(xué)習(xí)模型對(duì)該第一樣本的第一處理結(jié)果和中間遺忘學(xué)習(xí)模型對(duì)該第一樣本的第二處理結(jié)果；最后，通過(guò)訓(xùn)練后攻擊模型對(duì)第一處理結(jié)果和第二處理結(jié)果進(jìn)行處理，得到中間遺忘學(xué)習(xí)模型對(duì)該第一樣本的遺忘程度，并根據(jù)遺忘程度調(diào)整中間遺忘學(xué)習(xí)模型的參數(shù)，得到訓(xùn)練后聯(lián)邦學(xué)習(xí)模型。

41、上述實(shí)施方式中，通過(guò)聯(lián)邦學(xué)習(xí)模型的模型結(jié)構(gòu)構(gòu)建初始遺忘學(xué)習(xí)模型，并通過(guò)第一客戶(hù)端的第一樣本和未退出的第二客戶(hù)端執(zhí)行該訓(xùn)練任務(wù)后的模型參數(shù)訓(xùn)練初始遺忘學(xué)習(xí)模型的方式，可以避免在第一客戶(hù)端退出聯(lián)邦學(xué)習(xí)系統(tǒng)后采用重新迭代的訓(xùn)練方式對(duì)聯(lián)邦學(xué)習(xí)模型進(jìn)行反復(fù)訓(xùn)練，從而節(jié)省了聯(lián)邦學(xué)習(xí)系統(tǒng)的訓(xùn)練時(shí)間。在得到中間遺忘學(xué)習(xí)模型之后，通過(guò)確定中間遺忘學(xué)習(xí)系統(tǒng)對(duì)第一樣本的遺忘程度，進(jìn)而通過(guò)該遺忘程度對(duì)該中間遺忘系統(tǒng)的模型參數(shù)進(jìn)行調(diào)整的方式，校驗(yàn)第一客戶(hù)端的第一樣本對(duì)聯(lián)邦學(xué)習(xí)模型的影響程度，通過(guò)該遺忘程度對(duì)聯(lián)邦學(xué)習(xí)模型進(jìn)行訓(xùn)練的方式，可以降低第一客戶(hù)端的第一樣本對(duì)聯(lián)邦學(xué)習(xí)模型的影響程度，以提高聯(lián)邦學(xué)習(xí)模型的處理精度。

42、為使本公開(kāi)的上述目的、特征和優(yōu)點(diǎn)能更明顯易懂，下文特舉較佳實(shí)施例，并配合所附附圖，作詳細(xì)說(shuō)明如下。