概括而言，本申請(qǐng)涉及機(jī)器學(xué)習(xí)。

背景技術(shù)：

1、隨著包括機(jī)器學(xué)習(xí)(ml)模型的人工智能(ai)實(shí)現(xiàn)移動(dòng)計(jì)算設(shè)備中的變換式新用戶體驗(yàn)，數(shù)據(jù)安全和隱私變得越來越重要。在移動(dòng)部署場景中，ml模型可以利用大訓(xùn)練數(shù)據(jù)集在遠(yuǎn)程的、基于云的服務(wù)器中被訓(xùn)練，并且然后可以被部署到移動(dòng)設(shè)備。雖然該方法推廣到一些移動(dòng)設(shè)備用戶，但這并不提供用戶個(gè)性化，因此某些用戶可能體驗(yàn)到低于標(biāo)準(zhǔn)的性能。此外，給定用戶在對(duì)托管在基于云的服務(wù)器上的ml模型的訓(xùn)練進(jìn)行個(gè)性化上可能是猶豫的(例如，其不關(guān)心數(shù)據(jù)安全性和隱私)。

技術(shù)實(shí)現(xiàn)思路

1、提供了用于個(gè)性化機(jī)器學(xué)習(xí)的系統(tǒng)、方法和制品，包括計(jì)算機(jī)程序產(chǎn)品。

2、在一個(gè)方面中，提供了一種方法，所述方法包括：由用戶設(shè)備接收用于機(jī)器學(xué)習(xí)模型的配置，配置包括由服務(wù)器在對(duì)機(jī)器學(xué)習(xí)模型的第一階段訓(xùn)練期間確定的多個(gè)權(quán)重；由用戶設(shè)備使用在用戶設(shè)備處的本地訓(xùn)練數(shù)據(jù)來發(fā)起對(duì)機(jī)器學(xué)習(xí)模型的第二階段訓(xùn)練，以在不更新機(jī)器學(xué)習(xí)模型的多個(gè)權(quán)重的情況下將機(jī)器學(xué)習(xí)模型個(gè)性化到用戶設(shè)備的用戶，其中，本地訓(xùn)練數(shù)據(jù)被應(yīng)用于機(jī)器學(xué)習(xí)模型以至少生成映射到標(biāo)簽的參考嵌入，其中，參考嵌入和標(biāo)簽被存儲(chǔ)在用戶設(shè)備處的字典中；響應(yīng)于在機(jī)器學(xué)習(xí)模型處接收到第一未知樣本，由用戶設(shè)備使用機(jī)器學(xué)習(xí)模型通過生成第一嵌入來執(zhí)行第一推理任務(wù)，第一嵌入用于查詢字典以至少找到第一參考嵌入和用于標(biāo)識(shí)第一未知樣本的標(biāo)簽；響應(yīng)于用戶設(shè)備處的條件被滿足，由用戶設(shè)備至少使用在用戶設(shè)備處的本地訓(xùn)練數(shù)據(jù)來觸發(fā)對(duì)機(jī)器學(xué)習(xí)模型的第三階段訓(xùn)練，以更新機(jī)器學(xué)習(xí)模型的多個(gè)權(quán)重并且將機(jī)器學(xué)習(xí)模型進(jìn)一步個(gè)性化到用戶設(shè)備的用戶；以及響應(yīng)于在機(jī)器學(xué)習(xí)模型處接收到第二未知樣本，由用戶設(shè)備使用具有所更新的權(quán)重的機(jī)器學(xué)習(xí)模型，通過生成第二嵌入以查詢字典以找到第二參考嵌入和用于標(biāo)識(shí)第二未知樣本的對(duì)應(yīng)標(biāo)簽，來執(zhí)行第二推理任務(wù)。

3、在一些變型中，本文公開的包括以下特征的特征中的一個(gè)或多個(gè)特征可以可選地包括在任何可行的組合中。響應(yīng)于機(jī)器學(xué)習(xí)模型的多個(gè)權(quán)重的更新，參考嵌入被更新。接收還可以包括：接收映射到對(duì)應(yīng)標(biāo)簽的一個(gè)或多個(gè)參考嵌入的初始集合。機(jī)器學(xué)習(xí)模型接收來自不同域的輸入，其中，不同域包括以下各項(xiàng)中的至少一項(xiàng)：音頻樣本、視頻樣本、圖像樣本、生物特征樣本、生物電樣本、心電圖樣本、腦電圖樣本和/或肌電圖樣本。字典包括包含在用戶設(shè)備中的關(guān)聯(lián)存儲(chǔ)器，其中，關(guān)聯(lián)存儲(chǔ)器存儲(chǔ)多個(gè)參考嵌入，多個(gè)參考嵌入中的每個(gè)參考嵌入被映射到標(biāo)簽。關(guān)聯(lián)存儲(chǔ)器包括查找表、內(nèi)容可尋址存儲(chǔ)器和/或散列函數(shù)實(shí)現(xiàn)的存儲(chǔ)器，和/或其中，關(guān)聯(lián)存儲(chǔ)器包括耦合到數(shù)字電路的隨機(jī)存取存儲(chǔ)器，所述數(shù)字電路針對(duì)參考嵌入來搜索隨機(jī)存取存儲(chǔ)器。字典被包括在使用自旋軌道扭矩和/或自旋轉(zhuǎn)移扭矩的磁阻存儲(chǔ)器中。第一未知樣本和第二未知樣本包括來自至少一個(gè)揚(yáng)聲器的語音樣本，其中，第一未知樣本和第二未知樣本包括圖像樣本，和/或其中，第一未知樣本和第二未知樣本包括視頻樣本。第一未知樣本和第二未知樣本包括生物特征樣本，其中，生物特征樣本包括心電圖樣本、腦電圖樣本和/或肌電圖信號(hào)。至少一個(gè)參考嵌入、第一嵌入和第二嵌入各自包括作為機(jī)器學(xué)習(xí)模型的輸出來生成的特征向量。機(jī)器學(xué)習(xí)模型包括神經(jīng)網(wǎng)絡(luò)和/或卷積神經(jīng)網(wǎng)絡(luò)。機(jī)器學(xué)習(xí)模型是使用三元組損失函數(shù)和/或梯度下降來訓(xùn)練的。當(dāng)處理來自不同域的輸入時(shí)，機(jī)器學(xué)習(xí)模型的至少一個(gè)層使用相同的權(quán)重。

4、當(dāng)前主題的實(shí)現(xiàn)可以包括與本文提供的描述一致的系統(tǒng)和方法以及包括有形地體現(xiàn)的機(jī)器可讀介質(zhì)的制品，機(jī)器可讀介質(zhì)可操作以使得一個(gè)或多個(gè)機(jī)器(例如，計(jì)算機(jī)等)導(dǎo)致本文描述的操作。類似地，還描述了可以包括一個(gè)或多個(gè)處理器和耦合到一個(gè)或多個(gè)處理器的一個(gè)或多個(gè)存儲(chǔ)器的計(jì)算機(jī)系統(tǒng)?？梢园ㄓ?jì)算機(jī)可讀存儲(chǔ)介質(zhì)的存儲(chǔ)器可以包括、編碼、存儲(chǔ)等一個(gè)或多個(gè)程序，該一個(gè)或多個(gè)程序使得一個(gè)或多個(gè)處理器執(zhí)行本文描述的操作中的一個(gè)或多個(gè)操作。與當(dāng)前主題的一個(gè)或多個(gè)實(shí)現(xiàn)一致的計(jì)算機(jī)實(shí)現(xiàn)的方法可以由駐留在單個(gè)計(jì)算系統(tǒng)或多個(gè)計(jì)算系統(tǒng)中的一個(gè)或多個(gè)數(shù)據(jù)處理器來實(shí)現(xiàn)。這樣的多個(gè)計(jì)算系統(tǒng)可以被連接并且可以經(jīng)由一個(gè)或多個(gè)連接(包括但不限于通過網(wǎng)絡(luò)(例如，互聯(lián)網(wǎng)、無線廣域網(wǎng)、局域網(wǎng)、廣域網(wǎng)、有線網(wǎng)絡(luò)等)的連接、經(jīng)由在多個(gè)計(jì)算系統(tǒng)中的一個(gè)或多個(gè)計(jì)算系統(tǒng)之間的直接連接等)交換數(shù)據(jù)和/或命令或其它指令等。

5、在附圖和以下描述中闡述了本文描述的主題的一個(gè)或多個(gè)變型的細(xì)節(jié)。根據(jù)說明書和附圖以及權(quán)利要求，本文描述的主題的其它特征和優(yōu)點(diǎn)將是顯而易見的。盡管出于說明性目的關(guān)于個(gè)性化機(jī)器學(xué)習(xí)描述了當(dāng)前公開的主題的某些特征，但是應(yīng)當(dāng)容易理解，此類特征不旨在是限制性的。遵循本公開內(nèi)容的權(quán)利要求旨在限定受保護(hù)主題的范圍。

技術(shù)特征：

1.一種方法，包括：

2.根據(jù)權(quán)利要求1所述的方法，其中，響應(yīng)于所述機(jī)器學(xué)習(xí)模型的所述多個(gè)權(quán)重的所述更新，所述參考嵌入被更新，和/或其中，所述接收還包括：接收映射到對(duì)應(yīng)標(biāo)簽的一個(gè)或多個(gè)參考嵌入的初始集合。

3.根據(jù)權(quán)利要求1所述的方法，其中，所述機(jī)器學(xué)習(xí)模型接收來自不同域的輸入，其中，所述不同域包括以下各項(xiàng)中的至少一項(xiàng)：音頻樣本、視頻樣本、圖像樣本、生物特征樣本、生物電樣本、心電圖樣本、腦電圖樣本和/或肌電圖樣本。

4.根據(jù)權(quán)利要求1所述的方法，其中，所述字典包括包含在所述用戶設(shè)備中的關(guān)聯(lián)存儲(chǔ)器，其中，所述關(guān)聯(lián)存儲(chǔ)器存儲(chǔ)多個(gè)參考嵌入，所述多個(gè)參考嵌入中的每個(gè)參考嵌入被映射到標(biāo)簽。

5.根據(jù)權(quán)利要求4所述的方法，其中，所述關(guān)聯(lián)存儲(chǔ)器包括查找表、內(nèi)容可尋址存儲(chǔ)器和/或散列函數(shù)實(shí)現(xiàn)的存儲(chǔ)器，和/或其中，所述關(guān)聯(lián)存儲(chǔ)器包括耦合到數(shù)字電路的隨機(jī)存取存儲(chǔ)器，所述數(shù)字電路針對(duì)參考嵌入來搜索所述隨機(jī)存取存儲(chǔ)器。

6.根據(jù)權(quán)利要求1所述的方法，其中，所述字典被包括在使用自旋軌道扭矩和/或自旋轉(zhuǎn)移扭矩的磁阻存儲(chǔ)器中。

7.根據(jù)權(quán)利要求1所述的方法，其中，所述第一未知樣本和所述第二未知樣本包括來自至少一個(gè)揚(yáng)聲器的語音樣本，其中，所述第一未知樣本和所述第二未知樣本包括圖像樣本，和/或其中，所述第一未知樣本和所述第二未知樣本包括視頻樣本。

8.根據(jù)權(quán)利要求1所述的方法，其中，所述第一未知樣本和所述第二未知樣本包括生物特征樣本，其中，所述生物特征樣本包括心電圖樣本、腦電圖樣本和/或肌電圖信號(hào)。

9.根據(jù)權(quán)利要求1所述的方法，其中，所述至少一個(gè)參考嵌入、所述第一嵌入和所述第二嵌入各自包括作為所述機(jī)器學(xué)習(xí)模型的輸出來生成的特征向量。

10.根據(jù)權(quán)利要求1所述的方法，其中，所述機(jī)器學(xué)習(xí)模型包括神經(jīng)網(wǎng)絡(luò)和/或卷積神經(jīng)網(wǎng)絡(luò)。

11.根據(jù)權(quán)利要求1所述的方法，其中，所述機(jī)器學(xué)習(xí)模型是使用三元組損失函數(shù)和/或梯度下降來訓(xùn)練的。

12.根據(jù)權(quán)利要求1所述的方法，其中，當(dāng)處理來自不同域的輸入時(shí)，所述機(jī)器學(xué)習(xí)模型的至少一個(gè)層使用相同的權(quán)重。

13.一種系統(tǒng)，包括：

14.根據(jù)權(quán)利要求13所述的系統(tǒng)，其中，響應(yīng)于所述機(jī)器學(xué)習(xí)模型的所述多個(gè)權(quán)重的所述更新，所述參考嵌入被更新，和/或其中，所述接收還包括：接收映射到對(duì)應(yīng)標(biāo)簽的一個(gè)或多個(gè)參考嵌入的初始集合。

15.根據(jù)權(quán)利要求13所述的系統(tǒng)，其中，所述機(jī)器學(xué)習(xí)模型接收來自不同域的輸入，其中，所述不同域包括以下各項(xiàng)中的至少一項(xiàng)：音頻樣本、視頻樣本、圖像樣本、生物特征樣本、生物電樣本、心電圖樣本、腦電圖樣本和/或肌電圖樣本。

16.根據(jù)權(quán)利要求13所述的系統(tǒng)，其中，所述字典包括包含在所述系統(tǒng)中的關(guān)聯(lián)存儲(chǔ)器，其中，所述關(guān)聯(lián)存儲(chǔ)器存儲(chǔ)多個(gè)參考嵌入，所述多個(gè)參考嵌入中的每個(gè)參考嵌入被映射到標(biāo)簽。

17.根據(jù)權(quán)利要求16所述的系統(tǒng)，其中，所述關(guān)聯(lián)存儲(chǔ)器包括查找表、內(nèi)容可尋址存儲(chǔ)器和/或散列函數(shù)實(shí)現(xiàn)的存儲(chǔ)器，和/或其中，所述關(guān)聯(lián)存儲(chǔ)器包括耦合到數(shù)字電路的隨機(jī)存取存儲(chǔ)器，所述數(shù)字電路針對(duì)參考嵌入來搜索所述隨機(jī)存取存儲(chǔ)器。

18.根據(jù)權(quán)利要求13所述的系統(tǒng)，其中，所述字典被包括在使用自旋軌道扭矩和/或自旋轉(zhuǎn)移扭矩的磁阻存儲(chǔ)器中。

19.根據(jù)權(quán)利要求13所述的系統(tǒng)，其中，所述第一未知樣本和所述第二未知樣本包括來自至少一個(gè)揚(yáng)聲器的語音樣本，其中，所述第一未知樣本和所述第二未知樣本包括圖像樣本，和/或其中，所述第一未知樣本和所述第二未知樣本包括視頻樣本。

20.根據(jù)權(quán)利要求13所述的系統(tǒng)，其中，所述第一未知樣本和所述第二未知樣本包括生物特征樣本，其中，所述生物特征樣本包括心電圖樣本、腦電圖樣本和/或肌電圖信號(hào)。

21.根據(jù)權(quán)利要求13所述的系統(tǒng)，其中，所述至少一個(gè)參考嵌入、所述第一嵌入和所述第二嵌入各自包括作為所述機(jī)器學(xué)習(xí)模型的輸出來生成的特征向量。

22.根據(jù)權(quán)利要求13所述的系統(tǒng)，其中，所述機(jī)器學(xué)習(xí)模型包括神經(jīng)網(wǎng)絡(luò)和/或卷積神經(jīng)網(wǎng)絡(luò)。

23.根據(jù)權(quán)利要求13所述的系統(tǒng)，其中，所述機(jī)器學(xué)習(xí)模型是使用三元組損失函數(shù)和/或梯度下降來訓(xùn)練的。

24.根據(jù)權(quán)利要求13所述的系統(tǒng)，其中，當(dāng)處理來自不同域的輸入時(shí)，所述機(jī)器學(xué)習(xí)模型的至少一個(gè)層使用相同的權(quán)重。

25.根據(jù)權(quán)利要求13所述的系統(tǒng)，其中，所述系統(tǒng)包括用戶設(shè)備或被包括在用戶設(shè)備中。

26.一種包括代碼的非暫時(shí)性計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，所述代碼在由至少一個(gè)處理器執(zhí)行時(shí)使得包括以下各項(xiàng)的操作：

27.一種裝置，包括：

28.根據(jù)權(quán)利要求27所述的裝置，還包括在權(quán)利要求2-12中任一項(xiàng)中記載的功能中的任何一個(gè)功能。

技術(shù)總結(jié)
在一些實(shí)現(xiàn)中，提供了一種用于個(gè)性化學(xué)習(xí)的過程。在一些方面中，提供：由用戶設(shè)備接收用于機(jī)器學(xué)習(xí)模型的配置，該配置包括由服務(wù)器在對(duì)機(jī)器學(xué)習(xí)模型的第一階段訓(xùn)練期間確定的多個(gè)權(quán)重；由用戶設(shè)備使用在用戶設(shè)備處的本地訓(xùn)練數(shù)據(jù)來發(fā)起對(duì)機(jī)器學(xué)習(xí)模型的第二階段訓(xùn)練，以在不更新機(jī)器學(xué)習(xí)模型的多個(gè)權(quán)重的情況下個(gè)性化機(jī)器學(xué)習(xí)模型；以及由用戶設(shè)備至少使用用戶設(shè)備處的本地訓(xùn)練數(shù)據(jù)來觸發(fā)對(duì)機(jī)器學(xué)習(xí)模型的第三階段訓(xùn)練，以更新機(jī)器學(xué)習(xí)模型的多個(gè)權(quán)重并且將機(jī)器學(xué)習(xí)模型進(jìn)一步個(gè)性化到用戶設(shè)備的用戶。

技術(shù)研發(fā)人員：W·S·黃,S·X·王
受保護(hù)的技術(shù)使用者：利蘭斯坦福初級(jí)大學(xué)董事會(huì)
技術(shù)研發(fā)日：
技術(shù)公布日：2024/10/21