【愛集微點評】地平線提出的用于多處理單元的資料協同處理方法及裝置，該方案實作了在多個處理單元執行神經網絡的運算任務期間，自動對各個運算階段進行協同，進而提高了神經網絡運算的效率。
集微網消息，異構多核處理器是由主處理器和加速器兩種體系結構處理器搭建而成的計算機系統。通過協調地使用性能、結構各異的處理單元，能夠滿足不同的計算需求，以擷取最大總體性能方式完成加速計算。
而神經網絡由于結構複雜，資料計算量大，是以，可以設計專門用于神經網絡計算的神經網絡加速處理單元。內建在同一晶片内的多個神經網絡加速處理單元可以并行地執行同一神經網絡的計算任務，進而提高神經網絡運算的速度。
多個神經網絡加速處理單元在對同一幀資料進行處理時，可以将對該幀的處理任務劃分為多個處理階段，各階段之間需要由CPU與多個神經網絡加速處理單元通過發送指令完成各神經網絡加速處理單元的協調運作。
為實作多處理單元的資料協同，地平線在2022年3月8日申請了一項名為“用于多處理單元的資料協同處理方法及裝置”的發明專利（申請号：202210227643.4），申請人為北京地平線機器人技術研發有限公司。
根據該專利目前公開的相關資料，讓我們一起來看看這項技術方案吧。
如上圖，為該專利中公開的用于多處理單中繼資料協同處理方法的系統示意圖。該系統架構包括有：第一處理單元101，第二處理單元102、主處理單元103和共享記憶體104。其中，這些處理單元可以內建在一個晶片中，也可以設定到不同的晶片或電路闆中。這些晶片或電路闆之間可以建立資料通信的鍊路。
第一處理單元和第二處理單元用于進行神經網絡的計算。通常第一處理單元和第二處理單元可以協同地運作同一神經網絡的不同部分，以對同一幀資料進行處理。第一處理單元和第二處理單元兩兩之間可以建立通信連接配接，以向其他處理單元發送提示本次運算結束的第一信号和表示其他處理單元本次運算結束的第二信号。
主處理單元可以對第一處理單元和第二處理單元的運算過程進行管理。例如，向第一處理單元和第二處理單元發送各種指令(例如啟動神經網絡運算的指令、訓示結束運算的指令等)，以及接收其發送的通知。
如上圖，為用于多處理單元的資料協同處理方法的流程示意圖。首先，通過多處理單元中的第一處理單元對預設的神經網絡中的目标子網絡對應的第一組資料進行運算，得到運算結果資料。在執行該步驟之前，會由第一處理單元和第二處理單元執行該資料系統處理方法所需的指令，并預先存入共享記憶體中。
其次，生成用于向多處理單元包括的第二處理單元發送提示本次運算結束的第一信号。第一信号為各種形式的信号，例如高低電平信号，數字信号等。第一處理單元可以通過與第二處理單元之間的連線直接發送第一信号，也可以通過其他器件間接發送第一信号。
接着，檢測第二處理單元中的每個生成的表示每個第二處理單元對目标子網絡對應的第二組資料運算結束的第二信号。當某個第二處理單元單元結束對第二組資料的運算時，向第一處理單元發送第二信号。當第一處理單元接收到所有第二處理單元發送的第二信号時，确定目前針對目标子網絡的運算結束。
最後，基于目标子網絡在神經網絡中的位置，生成用于訓示第一處理單元進一步針對神經網絡的操作的指令。
最後，如上圖，為該專利中公開的用于多處理單元的資料協同處理裝置的結構示意圖。該裝置包括有：運算子產品601、第一生成子產品602、檢測子產品603以及第二生成子產品604。其中，運算子產品可以通過對目标子網絡對應的第一組資料進行運算，以得到運算結果資料；檢測子產品用于檢測每個第二處理單元對目标子網絡對應的第二組資料運算結束的信号。
以上就是地平線提出的用于多處理單元的資料協同處理方法及裝置，該方案實作了在多個處理單元執行神經網絡的運算任務期間，自動對各個運算階段進行協同，進而提高了神經網絡運算的效率。