本技術(shù)涉及一種分布式數(shù)據(jù)處理系統(tǒng)。本技術(shù)還涉及一種分布式數(shù)據(jù)處理方法。

背景技術(shù)：

1、神經(jīng)網(wǎng)絡(luò)可以被訓(xùn)練來執(zhí)行復(fù)雜的數(shù)據(jù)處理任務(wù)。于是神經(jīng)網(wǎng)絡(luò)處理的重要性與日俱增。然而，神經(jīng)網(wǎng)絡(luò)處理涉及大量的計(jì)算負(fù)擔(dān)，這是由于這種網(wǎng)絡(luò)中的基本操作是將輸出值計(jì)算為多個(gè)輸入值的加權(quán)和。這需要將每個(gè)輸入值乘以相應(yīng)的權(quán)重。特別是對于數(shù)據(jù)處理任務(wù)，作為需要處理可能包括數(shù)千到數(shù)百萬像素的連續(xù)圖像幀流的機(jī)器視覺應(yīng)用，這需要大量的處理能力，而在應(yīng)用的位置并非總是具有該處理能力。實(shí)際應(yīng)用的典型需求是網(wǎng)絡(luò)具有大量的神經(jīng)網(wǎng)絡(luò)層，例如超過100層，以便具有大量能力以被訓(xùn)練用于復(fù)雜任務(wù)。數(shù)據(jù)處理任務(wù)還可能需要神經(jīng)網(wǎng)絡(luò)能夠處理大量的輸入數(shù)據(jù)。例如，機(jī)器視覺系統(tǒng)中的應(yīng)用可能需要神經(jīng)網(wǎng)絡(luò)能夠接受相對大的輸入幀大小(例如，hd)。此外，對于為動(dòng)作識(shí)別而設(shè)計(jì)的機(jī)器視覺系統(tǒng)，神經(jīng)網(wǎng)絡(luò)需要能夠接收圖像數(shù)據(jù)作為幀流，并且能夠檢測時(shí)域中的特征。這種應(yīng)用中的神經(jīng)網(wǎng)絡(luò)可以具有復(fù)雜的網(wǎng)絡(luò)拓?fù)?，其例如涉及多個(gè)輸入(例如，來自不同的監(jiān)視攝像機(jī))、叉路、連接和多個(gè)輸出(例如為特定系統(tǒng)用戶輸出特定輸出數(shù)據(jù))。

2、為了啟用本地機(jī)器視覺應(yīng)用，例如用于商店監(jiān)視，同時(shí)避免這需要大量的計(jì)算資源，可以考慮將本地捕獲的原始視頻數(shù)據(jù)傳輸?shù)竭h(yuǎn)程服務(wù)器，在該遠(yuǎn)程服務(wù)器中實(shí)現(xiàn)執(zhí)行機(jī)器視覺任務(wù)的神經(jīng)網(wǎng)絡(luò)。然而，這需要大量的數(shù)據(jù)傳輸能力。數(shù)據(jù)壓縮算法可以降低數(shù)據(jù)傳送需求，但缺點(diǎn)是可能與機(jī)器視覺任務(wù)相關(guān)的圖像信息會(huì)丟失。

技術(shù)實(shí)現(xiàn)思路

1、第一個(gè)目的是提供一種改進(jìn)的分布式數(shù)據(jù)處理系統(tǒng)，其具有適度的數(shù)據(jù)傳送需求，而不妨礙機(jī)器視覺任務(wù)的功能。

2、第二個(gè)目的是提供一種改進(jìn)的分布式數(shù)據(jù)處理方法，其具有適度的數(shù)據(jù)傳送需求，而不妨礙機(jī)器視覺任務(wù)的功能。

3、根據(jù)第一個(gè)目的，改進(jìn)的分布式數(shù)據(jù)處理系統(tǒng)包括通過數(shù)據(jù)通信信道耦合的第一數(shù)據(jù)處理設(shè)備和第二數(shù)據(jù)處理設(shè)備。第一數(shù)據(jù)處理設(shè)備通常安裝在要被監(jiān)控的位置，諸如商店、街道、制造系統(tǒng)、倉庫。

4、第一數(shù)據(jù)處理設(shè)備包括數(shù)據(jù)流源，諸如攝像機(jī)和/或麥克風(fēng)。在另一個(gè)應(yīng)用中，數(shù)據(jù)流源可以被配置為制造系統(tǒng)中的一個(gè)或多個(gè)過程數(shù)據(jù)傳感器的組。在又一個(gè)應(yīng)用中，數(shù)據(jù)流源可以被配置為測量倉庫內(nèi)不同位置的溫度的一個(gè)或多個(gè)溫度傳感器的組。第一數(shù)據(jù)處理設(shè)備還包括用以執(zhí)行神經(jīng)網(wǎng)絡(luò)的第一子網(wǎng)絡(luò)的第一神經(jīng)網(wǎng)絡(luò)處理器以及第一數(shù)據(jù)通信信道接口。第一神經(jīng)網(wǎng)絡(luò)處理器被配置為處理從數(shù)據(jù)流源接收的數(shù)據(jù)流，并且通過第一數(shù)據(jù)通信信道接口將經(jīng)處理的數(shù)據(jù)流提供給數(shù)據(jù)通信信道。數(shù)據(jù)通信信道可以是私有資源，但也可以是公共資源，例如互聯(lián)網(wǎng)。

5、第二數(shù)據(jù)處理設(shè)備，例如遠(yuǎn)程服務(wù)器，包括第二數(shù)據(jù)交換網(wǎng)絡(luò)接口和用以執(zhí)行神經(jīng)網(wǎng)絡(luò)的第二子網(wǎng)絡(luò)的第二神經(jīng)網(wǎng)絡(luò)處理器。在操作中，第二數(shù)據(jù)處理設(shè)備通過第二數(shù)據(jù)通信信道接口從數(shù)據(jù)通信信道接收經(jīng)處理的數(shù)據(jù)流。

6、以這種方式，第一數(shù)據(jù)處理設(shè)備和遠(yuǎn)離第一數(shù)據(jù)處理設(shè)備的第二數(shù)據(jù)處理設(shè)備一起實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)，所述神經(jīng)網(wǎng)絡(luò)處理從數(shù)據(jù)流源接收的數(shù)據(jù)流以呈現(xiàn)進(jìn)一步經(jīng)處理的數(shù)據(jù)流。

7、由子網(wǎng)絡(luò)組成的神經(jīng)網(wǎng)絡(luò)作為一個(gè)整體進(jìn)行訓(xùn)練。僅可以為整個(gè)網(wǎng)絡(luò)計(jì)算網(wǎng)絡(luò)參數(shù)，而不能單獨(dú)為網(wǎng)絡(luò)的一部分計(jì)算網(wǎng)絡(luò)參數(shù)。這適用于有監(jiān)督的訓(xùn)練和無監(jiān)督的訓(xùn)練。應(yīng)用端到端訓(xùn)練的需求定義了神經(jīng)網(wǎng)絡(luò)的邊界。然后，經(jīng)訓(xùn)練的網(wǎng)絡(luò)被分成兩個(gè)或更多個(gè)子網(wǎng)絡(luò)，每個(gè)子網(wǎng)絡(luò)在相應(yīng)的數(shù)據(jù)處理設(shè)備中被分配相應(yīng)的神經(jīng)處理器，并且使用通信裝置來交換它們的數(shù)據(jù)。于是，盡管兩個(gè)或更多個(gè)子網(wǎng)絡(luò)被設(shè)置成彼此遠(yuǎn)離，但網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)保持不變。兩個(gè)或更多個(gè)子網(wǎng)絡(luò)可以在拓?fù)浣Y(jié)構(gòu)上排列成鏈，其中子網(wǎng)絡(luò)向后繼者提供經(jīng)處理的數(shù)據(jù)流?？商娲?，在神經(jīng)網(wǎng)絡(luò)中，可以根據(jù)更復(fù)雜的拓?fù)浣Y(jié)構(gòu)來布置兩個(gè)或更多個(gè)子網(wǎng)絡(luò)。例如，子網(wǎng)絡(luò)可以向兩個(gè)或更多個(gè)其他子網(wǎng)絡(luò)提供經(jīng)處理的數(shù)據(jù)流，和/或子網(wǎng)絡(luò)可以從兩個(gè)或更多個(gè)其他子網(wǎng)絡(luò)接收輸入數(shù)據(jù)流。

8、盡管有必要將網(wǎng)絡(luò)作為一個(gè)整體來訓(xùn)練，但可以有利的是，隔離訓(xùn)練較大神經(jīng)網(wǎng)絡(luò)的連接部分(子網(wǎng)絡(luò))并因此建立初始參數(shù)集(特征圖)。為了使網(wǎng)絡(luò)作為整體有效地(執(zhí)行其功能)、最佳地(以足夠的質(zhì)量)和高效地(就吞吐量、功耗而言)工作，通過進(jìn)一步將網(wǎng)絡(luò)作為整體來訓(xùn)練來改進(jìn)(子網(wǎng)絡(luò)的)這些參數(shù)仍然很重要。在這個(gè)意義上，所謂的子網(wǎng)絡(luò)預(yù)訓(xùn)練可以被視為提高端到端訓(xùn)練效率的方法的一部分。類似地，應(yīng)用到子網(wǎng)絡(luò)的遷移學(xué)習(xí)可以是針對特定應(yīng)用而對神經(jīng)網(wǎng)絡(luò)進(jìn)行端到端訓(xùn)練的一部分。

9、由于第一數(shù)據(jù)處理設(shè)備僅需要執(zhí)行第一子網(wǎng)絡(luò)的事實(shí)，第一神經(jīng)網(wǎng)絡(luò)處理器所需的處理能力可以是適度的。與從數(shù)據(jù)流源接收的原始數(shù)據(jù)流所需的數(shù)據(jù)速率相比，由第一數(shù)據(jù)處理設(shè)備執(zhí)行的第一子網(wǎng)絡(luò)的經(jīng)處理的輸出數(shù)據(jù)可以以低得多的數(shù)據(jù)速率傳輸。在典型應(yīng)用中，數(shù)據(jù)速率可以降低10至100倍。在改進(jìn)的分布式數(shù)據(jù)處理系統(tǒng)中，通信信道用于將數(shù)據(jù)從神經(jīng)網(wǎng)絡(luò)中的第一中間層(即，第一數(shù)據(jù)處理設(shè)備中的第一子網(wǎng)絡(luò)中的最后一層)傳輸?shù)诫S后的中間層(即，遠(yuǎn)離第一處理設(shè)備的第二處理設(shè)備中的第二子網(wǎng)絡(luò)中的第一層)。這不影響為數(shù)據(jù)處理任務(wù)設(shè)計(jì)的網(wǎng)絡(luò)鏈的拓?fù)浣Y(jié)構(gòu)。于是，在不妨礙為數(shù)據(jù)處理任務(wù)設(shè)計(jì)的神經(jīng)網(wǎng)絡(luò)的操作的情況下，實(shí)現(xiàn)了數(shù)據(jù)速率降低。

10、在一個(gè)實(shí)施例中，第一數(shù)據(jù)處理設(shè)備對神經(jīng)網(wǎng)絡(luò)的執(zhí)行中涉及的總計(jì)算負(fù)載貢獻(xiàn)最多30％，并且第一子網(wǎng)絡(luò)被配置為輸出數(shù)據(jù)量最多為數(shù)據(jù)流源提供的數(shù)據(jù)流的數(shù)據(jù)量的30％的經(jīng)處理的數(shù)據(jù)流。

11、然而，根據(jù)情況，可能存在其他需求，其中神經(jīng)網(wǎng)絡(luò)可以具有不同的計(jì)算負(fù)載分布和數(shù)據(jù)流的數(shù)據(jù)量的減少。例如，在一些實(shí)施例中，如果期望否則將是第一數(shù)據(jù)處理設(shè)備一部分的神經(jīng)階段駐留在第二數(shù)據(jù)處理設(shè)備(諸如服務(wù)器)中，則數(shù)據(jù)量的較小幅度的減少可以是可接受的。例如，因?yàn)槟切┥窠?jīng)網(wǎng)絡(luò)階段(例如用于檢測高級(jí)(動(dòng)作)特征)是專有的并且需要保密，可以是這種情況。如果例如在持續(xù)發(fā)展的環(huán)境中這些階段的頻繁適配是必要的，則也可能是這種情況。于是避免了在需要適配時(shí)，具有第一數(shù)據(jù)處理設(shè)備的終端用戶需要被打擾。

12、相反，在一些實(shí)施例中，如果期望否則將是第二數(shù)據(jù)處理設(shè)備的一部分的神經(jīng)階段駐留在第一數(shù)據(jù)處理設(shè)備(諸如移動(dòng)電話)中，則選擇第一數(shù)據(jù)處理設(shè)備的較高計(jì)算負(fù)載可以是可接受的。例如，如果期望更強(qiáng)的數(shù)據(jù)縮減來進(jìn)一步隱藏用作神經(jīng)網(wǎng)絡(luò)輸入的隱私敏感數(shù)據(jù)，則可以是這種情況。同樣可以設(shè)想，移動(dòng)電話的制造商希望保持關(guān)于神經(jīng)階段的機(jī)密信息，該信息否則將是第二數(shù)據(jù)處理設(shè)備的一部分。

13、由系統(tǒng)實(shí)現(xiàn)的神經(jīng)網(wǎng)絡(luò)可以是公知的網(wǎng)絡(luò)，諸如mobilenet的一個(gè)版本，或者是定制的網(wǎng)絡(luò)。在定制網(wǎng)絡(luò)的一些示例中，第二子網(wǎng)絡(luò)可以保密。第一子網(wǎng)絡(luò)的架構(gòu)也可以保密。于是還實(shí)現(xiàn)了傳輸?shù)臄?shù)據(jù)保密，而不需要附加的加密步驟?？商娲?，可以公布第一子網(wǎng)絡(luò)的架構(gòu)，以便于標(biāo)準(zhǔn)化。在任何情況下，可以應(yīng)用(附加的)加密/解密步驟來進(jìn)行數(shù)據(jù)保護(hù)。

14、在數(shù)據(jù)處理系統(tǒng)的一個(gè)實(shí)施例中，第二子網(wǎng)絡(luò)被配置為合并相應(yīng)第一數(shù)據(jù)處理設(shè)備的多個(gè)經(jīng)處理的數(shù)據(jù)流，以生成單個(gè)進(jìn)一步經(jīng)處理的數(shù)據(jù)流。在其示例中，第一數(shù)據(jù)處理設(shè)備包括例如安裝在商店或街道中的攝像機(jī)，并且第一子網(wǎng)絡(luò)合并從攝像機(jī)輸出生成的多個(gè)經(jīng)處理的數(shù)據(jù)流。

15、從上面可以明顯看出，這里提供的改進(jìn)的數(shù)據(jù)處理系統(tǒng)的主要應(yīng)用是處理圖像數(shù)據(jù)。通常，數(shù)據(jù)流源生成圖像數(shù)據(jù)作為圖像幀流。每個(gè)圖像幀包括預(yù)定格式的圖像數(shù)據(jù)，例如二維或三維矩陣中每個(gè)元素的一個(gè)或多個(gè)圖像信道值的集合。每個(gè)元素的一個(gè)或多個(gè)圖像信道值的集合可以由單個(gè)值組成，例如灰度值或深度值，或者可以包括多個(gè)信道值，例如顏色信道值。第一數(shù)據(jù)處理設(shè)備的第一神經(jīng)網(wǎng)絡(luò)處理器被配置為處理包括圖像幀序列的數(shù)據(jù)流(ds)，并且在其輸出處生成包括特征圖幀序列的流。特征圖幀包括預(yù)定格式的特征圖數(shù)據(jù)，通常為二維或三維矩陣中每個(gè)元素的一個(gè)或多個(gè)特征信道值的集合的形式。應(yīng)注意，可以認(rèn)為圖像是特定類型的特征圖，并且圖像幀是特定類型的特征圖幀。特征圖幀序列中的特征圖幀不需要與圖像幀流中的相應(yīng)圖像幀一一對應(yīng)。如果第一神經(jīng)網(wǎng)絡(luò)處理器的計(jì)算僅基于空間操作，則可以是這種情況。然而，另一種情況可以是，第一神經(jīng)網(wǎng)絡(luò)處理器被配置為執(zhí)行取決于圖像幀流中的時(shí)間關(guān)系的計(jì)算，使得特征圖幀中指定的特征圖的內(nèi)容取決于多個(gè)圖像幀。如上所述，在神經(jīng)網(wǎng)絡(luò)中進(jìn)一步向下游的特征圖趨于具有較低的數(shù)據(jù)含量。即，特征圖元素的數(shù)量與特征圖信道的數(shù)量的乘積趨于在朝向神經(jīng)網(wǎng)絡(luò)輸出的方向上減小。在一個(gè)實(shí)施例中，第一數(shù)據(jù)處理設(shè)備的第一神經(jīng)網(wǎng)絡(luò)處理器還被配置為：僅當(dāng)特征圖幀的特征圖元素的特征圖值與前一特征圖幀中該特征圖元素的特征圖值之間的絕對差超過指定閾值時(shí)，通過傳輸關(guān)于所述特征圖幀的特征圖元素的特征圖值的信息來執(zhí)行時(shí)間壓縮。

16、在數(shù)據(jù)處理系統(tǒng)的一個(gè)實(shí)施例中，第一子網(wǎng)絡(luò)被配置為接收連續(xù)靜態(tài)圖像作為數(shù)據(jù)流，并且呈現(xiàn)所述連續(xù)靜態(tài)圖像的對應(yīng)的連續(xù)特征圖作為經(jīng)處理的數(shù)據(jù)流。第二子網(wǎng)絡(luò)包括一個(gè)或多個(gè)lstm層，并且被配置為利用連續(xù)特征圖檢測關(guān)于經(jīng)處理的數(shù)據(jù)流中的動(dòng)態(tài)特征的信息，并且在進(jìn)一步經(jīng)處理的數(shù)據(jù)流中供應(yīng)檢測到的信息。例如，第一子網(wǎng)絡(luò)是被稱為alexnet或googlenet的神經(jīng)網(wǎng)絡(luò)的主干。術(shù)語主干表示可以省略網(wǎng)絡(luò)輸出側(cè)處的一層或多層，諸如軟最大層。ng等人在2015年4月13日的arxiv:1503.08909v2的“beyond?shortsnippets:deep?networks?for?video?classification(超越簡短片段：視頻分類的深層網(wǎng)絡(luò))”中描述了包括第一子網(wǎng)絡(luò)和第二子網(wǎng)絡(luò)的神經(jīng)網(wǎng)絡(luò)的示例。然而，ng等人沒有建議在如本文所公開的系統(tǒng)中實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)，其中第一數(shù)據(jù)處理設(shè)備包括執(zhí)行第一子網(wǎng)絡(luò)的第一神經(jīng)網(wǎng)絡(luò)處理器，并且經(jīng)由數(shù)據(jù)通信信道將經(jīng)處理的數(shù)據(jù)流傳送到遠(yuǎn)離第一數(shù)據(jù)處理設(shè)備的第二數(shù)據(jù)處理設(shè)備，其中第二數(shù)據(jù)處理設(shè)備的神經(jīng)網(wǎng)絡(luò)處理器隨后執(zhí)行第二子網(wǎng)絡(luò)。

17、經(jīng)處理的數(shù)據(jù)流包括從連續(xù)靜態(tài)圖像的輸入流中提取的特征數(shù)據(jù)，并且于是可以以比連續(xù)靜態(tài)圖像被如此傳輸?shù)那闆r低得多的比特率通過數(shù)據(jù)通信信道傳輸。執(zhí)行神經(jīng)網(wǎng)絡(luò)所涉及的計(jì)算中僅一部分需要在第一數(shù)據(jù)處理設(shè)備側(cè)處進(jìn)行。這在第一數(shù)據(jù)處理設(shè)備是移動(dòng)設(shè)備的情況下非常有利。由于傳輸?shù)氖翘崛〉奶卣鲾?shù)據(jù)而不是原始圖像數(shù)據(jù)，因此更容易避免第三方訪問隱私敏感圖像數(shù)據(jù)。圖像中的隱私敏感數(shù)據(jù)不再出現(xiàn)在經(jīng)處理的數(shù)據(jù)流中，或者重建難度更大。在該實(shí)施例的一些示例中，第一數(shù)據(jù)處理設(shè)備是多個(gè)第一數(shù)據(jù)處理設(shè)備中的一個(gè)，并且多個(gè)第一數(shù)據(jù)處理設(shè)備中的每個(gè)第一數(shù)據(jù)處理設(shè)備被配置為從其自身的角度呈現(xiàn)連續(xù)靜態(tài)圖像的輸入流，并且呈現(xiàn)所述連續(xù)靜態(tài)圖像的對應(yīng)的連續(xù)特征圖作為經(jīng)處理的數(shù)據(jù)流。第二數(shù)據(jù)處理設(shè)備被配置為從多個(gè)第一數(shù)據(jù)處理設(shè)備接收經(jīng)處理的數(shù)據(jù)流并將所述經(jīng)處理的數(shù)據(jù)流融合，并且檢測關(guān)于所得的經(jīng)融合的經(jīng)處理的數(shù)據(jù)流中動(dòng)態(tài)特征的信息。

18、在該實(shí)施例的同步版本中，前一特征圖幀是緊接在前的特征圖幀。在異步版本中，前一特征圖幀是針對其為所述特征圖元素傳輸信息的最近的特征圖幀。在其優(yōu)選示例中，所傳輸?shù)男畔⒅付ㄌ卣鲌D元素的值的變化。一般來說，這可以用比絕對值少得多的比特?cái)?shù)來編碼。

19、在數(shù)據(jù)處理系統(tǒng)的一個(gè)實(shí)施例中，第一數(shù)據(jù)處理設(shè)備包括生成第一i幀流和第二p幀流的視頻處理設(shè)備。第一i幀流由第一子網(wǎng)絡(luò)神經(jīng)網(wǎng)絡(luò)處理以提取靜止場景信息，所述第一子網(wǎng)絡(luò)神經(jīng)網(wǎng)絡(luò)包括由第一數(shù)據(jù)處理設(shè)備執(zhí)行的第一子網(wǎng)絡(luò)和由第二數(shù)據(jù)處理設(shè)備執(zhí)行的第二子網(wǎng)絡(luò)。第二p幀流由第二子網(wǎng)絡(luò)神經(jīng)網(wǎng)絡(luò)處理以提取時(shí)空建模信息，所述第二子網(wǎng)絡(luò)神經(jīng)網(wǎng)絡(luò)包括由第一數(shù)據(jù)處理設(shè)備執(zhí)行的第一子網(wǎng)絡(luò)和由第二數(shù)據(jù)處理設(shè)備執(zhí)行的第二子網(wǎng)絡(luò)。第一數(shù)據(jù)處理設(shè)備可以具有相應(yīng)的神經(jīng)網(wǎng)絡(luò)處理器來執(zhí)行第一神經(jīng)網(wǎng)絡(luò)鏈的第一子網(wǎng)絡(luò)和第二神經(jīng)網(wǎng)絡(luò)鏈的第一子網(wǎng)絡(luò)，或者可以具有公共神經(jīng)網(wǎng)絡(luò)處理器以供執(zhí)行第一子網(wǎng)絡(luò)中的兩者。同樣，第二數(shù)據(jù)處理設(shè)備可以具有相應(yīng)的神經(jīng)網(wǎng)絡(luò)處理器來執(zhí)行第一神經(jīng)網(wǎng)絡(luò)鏈的第二子網(wǎng)絡(luò)和第二神經(jīng)網(wǎng)絡(luò)鏈的第二子網(wǎng)絡(luò)，或者可以具有公共神經(jīng)網(wǎng)絡(luò)處理器以供執(zhí)行第二子網(wǎng)絡(luò)中的兩者。

20、在數(shù)據(jù)處理系統(tǒng)的一個(gè)實(shí)施例中，第二數(shù)據(jù)處理設(shè)備包括另一數(shù)據(jù)通信信道接口以向另一數(shù)據(jù)通信信道提供進(jìn)一步經(jīng)處理的數(shù)據(jù)流，并且數(shù)據(jù)處理系統(tǒng)包括第三數(shù)據(jù)處理設(shè)備。第三數(shù)據(jù)處理設(shè)備具有第三數(shù)據(jù)通信信道接口和用以執(zhí)行神經(jīng)網(wǎng)絡(luò)的第三子網(wǎng)絡(luò)的第三神經(jīng)網(wǎng)絡(luò)處理器，并且第三神經(jīng)網(wǎng)絡(luò)處理器被配置為進(jìn)一步處理通過第三數(shù)據(jù)通信信道接口從另一數(shù)據(jù)通信信道接收的進(jìn)一步經(jīng)處理的數(shù)據(jù)流，并且提供再進(jìn)一步經(jīng)處理的數(shù)據(jù)流。在該實(shí)施例的示例中，第一數(shù)據(jù)處理設(shè)備是移動(dòng)設(shè)備，第二數(shù)據(jù)處理設(shè)備是本地服務(wù)器，并且第三數(shù)據(jù)處理設(shè)備是遠(yuǎn)程服務(wù)器。在該實(shí)施例的另一示例中，第一數(shù)據(jù)處理設(shè)備是移動(dòng)設(shè)備，第二數(shù)據(jù)處理設(shè)備是遠(yuǎn)程服務(wù)器，并且第三數(shù)據(jù)處理設(shè)備是客戶端設(shè)備。在一個(gè)示例中，客戶端設(shè)備也提供輸入數(shù)據(jù)流，但是它也可以是另一個(gè)客戶端設(shè)備，例如移動(dòng)設(shè)備。第三數(shù)據(jù)處理設(shè)備可以例如是執(zhí)行所實(shí)現(xiàn)的神經(jīng)網(wǎng)絡(luò)的最終神經(jīng)網(wǎng)絡(luò)以檢索客戶端特定數(shù)據(jù)的客戶端設(shè)備。

21、盡管在實(shí)踐中，數(shù)據(jù)處理系統(tǒng)可以具有神經(jīng)網(wǎng)絡(luò)，所述神經(jīng)網(wǎng)絡(luò)包括將在上述示例中描述的相應(yīng)數(shù)據(jù)處理設(shè)備中執(zhí)行的兩個(gè)或三個(gè)神經(jīng)網(wǎng)絡(luò)，但是本公開不限于這些示例。包括將在相應(yīng)數(shù)據(jù)處理設(shè)備中執(zhí)行的更大量神經(jīng)網(wǎng)絡(luò)的神經(jīng)網(wǎng)絡(luò)也是可能的。還可以設(shè)想，對于一些應(yīng)用，神經(jīng)網(wǎng)絡(luò)具有應(yīng)用相應(yīng)進(jìn)一步處理的多于一個(gè)的受體神經(jīng)網(wǎng)絡(luò)，或者神經(jīng)網(wǎng)絡(luò)具有從其接收輸入數(shù)據(jù)的多于一個(gè)的源神經(jīng)網(wǎng)絡(luò)。在后一種情況下，它計(jì)算針對多個(gè)輸入流的組合輸出流。數(shù)據(jù)處理系統(tǒng)中并非每個(gè)數(shù)據(jù)處理設(shè)備都必須具有神經(jīng)網(wǎng)絡(luò)處理器。在一些實(shí)施例中，一個(gè)或多個(gè)數(shù)據(jù)處理設(shè)備具有便利功能，如顯示信息、路由信息等。

22、在一個(gè)實(shí)施例中，第二數(shù)據(jù)處理設(shè)備被配置為在進(jìn)一步經(jīng)處理的數(shù)據(jù)流中檢測到預(yù)定事件時(shí)發(fā)出數(shù)據(jù)流請求信號(hào)，并且第一數(shù)據(jù)處理設(shè)備在接收到數(shù)據(jù)流請求信號(hào)時(shí)被配置為除了經(jīng)處理的數(shù)據(jù)流之外進(jìn)一步將來自數(shù)據(jù)流的數(shù)據(jù)傳輸?shù)降诙?shù)據(jù)處理設(shè)備。該實(shí)施例例如適用于監(jiān)視目的，其中數(shù)據(jù)流是圖像數(shù)據(jù)流，并且其中神經(jīng)網(wǎng)絡(luò)被配置為檢測預(yù)定類型的事件，如入店行竊事件或暴力事件。在檢測到預(yù)定類型的事件時(shí)，第二數(shù)據(jù)處理設(shè)備發(fā)出數(shù)據(jù)流請求信號(hào)，響應(yīng)于此，第一數(shù)據(jù)處理設(shè)備開始以其整體或以可解碼的格式傳輸數(shù)據(jù)流，使得也可以由第二數(shù)據(jù)處理設(shè)備的操作者識(shí)別數(shù)據(jù)流中表示的人。盡管這暫時(shí)導(dǎo)致了將傳送的數(shù)據(jù)量的增加，但是平均將傳輸?shù)臄?shù)據(jù)量仍然是適度的，因?yàn)樵跊]有檢測到事件的情況下，數(shù)據(jù)流本身或其可解碼版本不需要被傳輸。

23、不可避免地，在預(yù)定事件開始發(fā)生的時(shí)間點(diǎn)與第一數(shù)據(jù)處理設(shè)備開始接收數(shù)據(jù)流請求信號(hào)并開始傳輸數(shù)據(jù)流或其可解碼版本的時(shí)間點(diǎn)之間存在延遲。有時(shí)可能會(huì)接收到關(guān)于該事件的不充分信息。在該實(shí)施例的有利變型中，第一數(shù)據(jù)處理設(shè)備包括用以緩沖數(shù)據(jù)流的最近部分的數(shù)據(jù)流緩沖器。在接收到數(shù)據(jù)流請求信號(hào)時(shí)，第一數(shù)據(jù)處理設(shè)備被配置為除了經(jīng)處理的數(shù)據(jù)流之外進(jìn)一步傳輸來自數(shù)據(jù)流的最近部分的數(shù)據(jù)。于是可以保證，第二數(shù)據(jù)處理設(shè)備在包括預(yù)定事件開始的一段時(shí)間內(nèi)接收數(shù)據(jù)流或其可解碼版本，這使得操作者能夠正確識(shí)別所涉及的人員并提供對事件細(xì)節(jié)的正確分析。

24、本發(fā)明還提供了一種數(shù)據(jù)處理方法，包括：

25、在第一數(shù)據(jù)處理設(shè)備中利用數(shù)據(jù)流源生成數(shù)據(jù)流；

26、利用第一數(shù)據(jù)處理設(shè)備的第一神經(jīng)網(wǎng)絡(luò)處理器執(zhí)行神經(jīng)網(wǎng)絡(luò)的第一子網(wǎng)絡(luò)，以處理來自數(shù)據(jù)流源的數(shù)據(jù)流并且提供經(jīng)處理的數(shù)據(jù)流；

27、經(jīng)由數(shù)據(jù)通信信道將經(jīng)處理的數(shù)據(jù)流傳輸?shù)降诙?shù)據(jù)處理設(shè)備；

28、利用第二數(shù)據(jù)處理設(shè)備的第二神經(jīng)網(wǎng)絡(luò)處理器執(zhí)行神經(jīng)網(wǎng)絡(luò)的第二子網(wǎng)絡(luò)，以進(jìn)一步處理所述經(jīng)處理的數(shù)據(jù)流并且提供進(jìn)一步經(jīng)處理的數(shù)據(jù)流。