最近APL photonics刊登了一篇關于光子加速器的review文章"Novel frontier of photonics for data processing—Photonic accelerator",小豆芽這裡做一個讀書筆記,供大家參考。
下圖是內建電路的演化與瓶頸示意圖,
(圖檔來自文獻1)
摩爾定律比較有名,稍微介紹下另外兩個定律。Dennard縮放定律,是指随半導體尺寸的縮小,IC的功耗密度保持不變。Amdarhl定律,給出了使用并行運算後,計算效率能夠達到的上限。随着器件尺寸逐漸逼近實體極限,在後摩爾時代,為了進一步提升計算能力,人們提出了多種技術方案,包括More Moore, More than Moore和beyond Moore這三個大的技術路線。More Moore(深度摩爾)仍然是想通過一定的方案延續摩爾定律,縮小器件尺寸;More than Moore(超越摩爾),是指通過與其他技術內建,提供更多的功能,例如MEMS;Beyond Moore是指一些可以替代CMOS的技術方案,不再使用半導體處理資料。
光子硬體加速器(photonic accelerator,簡稱PAXEL)是用光子處理一些特殊的計算任務,輔助已有的數字計算機。其典型的架構圖如下圖所示,
(圖檔來自文獻1)
與電子硬體加速器相比,光子加速器方案中信号加載在光信号上,因而會需要額外的光電轉換步驟。PAXEL的主要優勢是計算速度快、功耗小。文獻1中列出了光子硬體加速器的幾個應用情景,
1)人工神經網絡(articifical neural network)
深度學習的計算涉及大量的矩陣計算,
矩陣計算可以通過PAXEL較為簡單的實作。目前主要有三種具體的光學實作方案,如下圖所示,
(圖檔來自文獻1)
第一種方案在自由空間中實作,借助于空間光調制器(SLM)實作對矩陣元的編碼;第二種方案在光晶片上實作,輸入的data信号編碼在不同的波長上,通過微環調制器實作對weight矩陣元的編碼;第三種方案也是在光晶片上實作,級聯的MZI網絡可以實作任意的NxN矩陣乘法,需要對每一個MZI進行編碼。後兩種方案都已在矽光晶片上實作,第二種方案使用了微環諧振器,對工藝、溫度都比較敏感。使用波長編碼data信号,後期在矩陣的擴充上會存在一定的限制。
這三種方案都對應一些創業公司,包括Optalysys公司(方案一)、Luminous Computing公司(方案二)、Lightelligence公司和Lightmatter公司(方案三)。
2)儲備池計算(reservior computing)
儲備池計算是遞歸神經網絡的一種,其結構如下圖所示,包括input層,reservior層和output層。儲備池層含有多個節點,利用儲備池代替傳統神經網絡中的中間層,輸入層到儲備池的輸入連接配接權和儲備池的内部連接配接權都是随機生成并保持不變。唯一需要通過訓練确定的是儲備池到輸出層的連接配接權。
(圖檔來自文獻2)
目前主要有兩種典型的架構實作光學儲備池計算:
a)基于延遲的儲備池
典型的架構如下圖所示,由一個非線性器件(例如雷射器)和回報延遲線構成儲備池,不同時刻的光信号構成儲備池中虛拟的節點(virtual nodes)。
(圖檔來自文獻1)
b)基于空間模式的儲備池
典型的架構如下圖所示,由空間光調制器(SLM)每個像素反射的光場構成儲備池的節點。
(圖檔來自文獻1)
這兩種方案相比,第一種方案需要較複雜的信号處理,第二種方案實作起來相對簡單,但是第二種方案基于空間光學,對系統的穩定性要求較高。
3) 基于邏輯門的計算
內建電路以與或非三種邏輯運算為基礎,可實作任意的運算。光學邏輯門方案試圖采用類似的途徑,以光學邏輯門單元實作複雜的運算。Mach-Zehnder幹涉器是光學運算的核心單元,進而建構複雜的網絡,如下圖所示,左圖為光學邏輯門構成的光路,右圖為電學邏輯門構成的相同功能的電路結構圖,光學邏輯門方案所需的運算時間為t_switch +N*t_path, 而電學方案的運算時間為N*t_switch+N*t_path, 光學方案的運算速度更快。
(圖檔來自文獻1)
4)決策問題(decision making problem)
這裡主要介紹下一個經典的問題——多臂選擇機問題(multiarmed bandit),如何通過光學方法實作。所謂多臂選擇機問題,是指當我們進入賭場時,會看到一排老虎機,每台機器外觀一模一樣,但是吐錢的幾率不太一樣。我們不知道具體的幾率是多少,怎麼做才能獲得最大收益?對于這一問題,如果一個個去試老虎機的幾率,雖然可以得到大概的幾率分布,但是自己也會損失很多,這就是所謂的exploitation-exploration困境。針對這一問題,人們已經提出了多種算法。
下圖是利用單光子實作決策機的光路圖,利用NV色心産生單光子,單光子的偏振态可通過二分之一波片進行調節。當光子的偏振态為水準時,選擇machine 0; 當光子的偏振态為豎直時,選擇machine 1;當偏振态為45°偏振時,光子以50%的幾率觸發machine 0或者machine 1。根據機器觸發後獲得的收益,來決定半波片的調整方向,往獲益多的那個偏振方向調整。
(圖檔來自文獻1)
5)壓縮采樣問題(compressed sampling)
壓縮采樣問題,是指利用信号的稀疏性,采用小于Nyquist頻率的進行采樣,進而重構出原始信号,如下圖所示,
(圖檔來自文獻1)
一個典型的應用場景,通過測量人體細胞濃度,判斷人體所處的狀态,如下圖所示,
(圖檔來自文獻1)
以上是文獻1中提及到的光子加速器的幾個應用場景,相比較而言,在深度學習方面的應用,受到了更多的關注,并且也在往商業化的道路推廣。其他幾種應用,更多的是處于科研階段,有些場景也僅僅是展示了光學實作的可行性,有些場景的難點是算法問題。光子計算,也許是後摩爾時代的一顆新星。
文章中如果有任何錯誤和不嚴謹之處,還望大家不吝指出,歡迎大家留言讨論。
參考文獻:
- K. Kitayama, et. al., "Novel frontier of photonics for data processing—Photonic accelerator", APL Photonics 4, 090901(2019)
- F. Duport, et.al., "Fully analogue photonic reservoir computer", Sci. Rep. 6, 22381(2015)