模擬光計(jì)算推動(dòng)人工智能發(fā)展

一、引言近十年以來(lái)，隨著深度學(xué)習(xí)的廣泛應(yīng)用，人工智能（AI）在機(jī)器視覺(jué)、自動(dòng)駕駛、棋類游戲以及臨床診斷等很多領(lǐng)域取得了舉世矚目的成功。AI在理論和應(yīng)用方面都有了快速的發(fā)展，對(duì)國(guó)際前沿AI模型的訓(xùn)練和執(zhí)行所需要的算力遠(yuǎn)比由著名的摩爾定律刻畫(huà)的集成電路的發(fā)展更快，后者的發(fā)展正在放緩。在即將到來(lái)的第5代移動(dòng)通訊技術(shù)（5G）時(shí)代，大量的傳感器和聯(lián)網(wǎng)設(shè)備每秒以爆炸式的增長(zhǎng)速率生成大數(shù)據(jù)。而AI需要盡可能快速地處理這些數(shù)據(jù)。神經(jīng)網(wǎng)絡(luò)是由通過(guò)成千上萬(wàn)個(gè)或者數(shù)百萬(wàn)個(gè)相互連接的多層神經(jīng)元組成的用于學(xué)習(xí)多級(jí)抽象數(shù)據(jù)的典型的AI模型，其變得越來(lái)越復(fù)雜。目前的AI模型已經(jīng)能滿足很多應(yīng)用的需求，但在未來(lái)的發(fā)展中其將面臨計(jì)算硬件的速度和功耗的基本瓶頸限制。為了解決這個(gè)公認(rèn)的問(wèn)題，近年來(lái)研究人員在電子計(jì)算架構(gòu)創(chuàng)新方面進(jìn)行了各種努力以加速低能耗下的AI推理和訓(xùn)練。比如，專用集成電路（ASIC）可以減少不必要的操作而被工業(yè)界廣泛接受。腦啟發(fā)（類腦形態(tài)）計(jì)算模擬通過(guò)內(nèi)存和處理器的結(jié)合模仿了大腦的工作原理，這可以解決傳統(tǒng)的馮?諾伊曼結(jié)構(gòu)中著名的“內(nèi)存墻”問(wèn)題，其能量利用率非常高（低能耗）。最近研究發(fā)現(xiàn)，脈沖神經(jīng)網(wǎng)絡(luò)（SNN）和憶阻器交叉陣列很有可能解決集成芯片的存算一體問(wèn)題。不過(guò)，這些方法的功耗和速度仍然受限于電子器件的散熱、電容和射頻串?dāng)_。通過(guò)利用光的獨(dú)特性質(zhì)，光計(jì)算提供了另一種解決方案。由于光的帶寬更寬，信息可以在不同波長(zhǎng)上高度并行處理，而相鄰頻率（不同波長(zhǎng)上）的信息互不干擾。此外其他維度，如偏振和軌道角動(dòng)量也可以增加帶寬。利用光頻梳對(duì)不同波長(zhǎng)的數(shù)據(jù)和權(quán)重進(jìn)行編碼，這一操作在一個(gè)時(shí)間步長(zhǎng)內(nèi)自然而然可以被同時(shí)運(yùn)用到成百上千或者數(shù)百萬(wàn)的頻道上。此外，光可以在相位維度上以低能耗的形式進(jìn)行調(diào)制。光纖和波導(dǎo)的發(fā)展使得光可以以前所未有的光速傳播很長(zhǎng)的距離，且損耗極小。所有這些因素都使得光子比電子更適合作為信息載體，盡管光子是不易被操控的。遠(yuǎn)程通信就是一個(gè)典型的例子，通過(guò)光纖傳輸?shù)臄?shù)據(jù)比傳統(tǒng)電纜傳輸?shù)臄?shù)據(jù)流量更大而能耗更低。此外，由于高帶寬密度，在云計(jì)算中應(yīng)用芯片對(duì)芯片的光學(xué)互連變得越來(lái)越流行。盡管光計(jì)算因其可拓展的架構(gòu)有著悠久的歷史，但將光子應(yīng)用于計(jì)算來(lái)實(shí)現(xiàn)與前幾十年最先進(jìn)的電子處理器相媲美的性能仍然是一個(gè)巨大的挑戰(zhàn)，主要是由于缺乏合適的集成架構(gòu)和集成光子器件，包括高效、高速的光電調(diào)制器、探測(cè)器、低功耗光頻梳和非線性非易失性光學(xué)材料。近年來(lái)，各種集成光子器件和新型材料的發(fā)展以及人工智能的興起，似乎為光計(jì)算的復(fù)興提供了一個(gè)巨大的機(jī)遇，同時(shí)，人們提出不同類型的光學(xué)神經(jīng)網(wǎng)絡(luò)（ONN）和光子處理器，來(lái)解決AI計(jì)算能力所遇到的瓶頸。這項(xiàng)研究比以往任何時(shí)候都更加實(shí)用，因?yàn)槲覀儾恍枰耆〈娮佑?jì)算機(jī)，而是努力在特定的任務(wù)或操作中找到一個(gè)光計(jì)算的切入點(diǎn)。作為未來(lái)全光計(jì)算機(jī)的過(guò)渡階段，也許一個(gè)光電混合框架可以促進(jìn)電子和光子的互補(bǔ)，使其在人工智能特定應(yīng)用上發(fā)生數(shù)量級(jí)的提升。因此，AI的特定光計(jì)算是一個(gè)相對(duì)較新的領(lǐng)域，但是其已經(jīng)在過(guò)去五年里特別受到人們的青睞并具有很強(qiáng)的競(jìng)爭(zhēng)力，幾乎在各個(gè)領(lǐng)域都有很大發(fā)展。由于集成光子處理器的發(fā)展必然需要多學(xué)科的共同努力，因此，這個(gè)令人興奮的領(lǐng)域必然會(huì)聚集越來(lái)越多的研究。本文首先簡(jiǎn)要回顧了類光計(jì)算在不同AI模型中的最新突破，以及它們?cè)诮鉀Q各種不同應(yīng)用問(wèn)題中的獨(dú)特優(yōu)勢(shì)和在實(shí)際實(shí)現(xiàn)中仍然存在的挑戰(zhàn)，接著分別概述了不同類型的AI模型。第2部分主要介紹了前饋ONN，分別描述了用于不同數(shù)學(xué)運(yùn)算的不同光學(xué)方法，第3部分介紹了光學(xué)蓄水池計(jì)算（RC），第4部分簡(jiǎn)要介紹了其他AI模型，最后，在第5部分總結(jié)了幾個(gè)有待解決的重要挑戰(zhàn)。二、前饋光學(xué)神經(jīng)網(wǎng)絡(luò)在前饋人工神經(jīng)網(wǎng)絡(luò)中，相鄰層的所有神經(jīng)元以不同的突觸權(quán)值相互連接。對(duì)于每個(gè)神經(jīng)元，首先進(jìn)行線性加權(quán)求和運(yùn)算。假設(shè)從上一層傳遞進(jìn)來(lái)的信號(hào)共有N個(gè)，用列向量x

=[x1,x2,…,xN]T表示（其中，xN是第N個(gè)信號(hào)強(qiáng)度；N是總的輸入信號(hào)；T是轉(zhuǎn)置矩陣）。其對(duì)應(yīng)的權(quán)重系數(shù)由另一個(gè)行向量w

=[w1,w2,…,wN]表示（其中，wN是第N個(gè)權(quán)重系數(shù)；N是加權(quán)系數(shù)的總數(shù)）。單個(gè)神經(jīng)元的線性求和，將觸發(fā)非線性激活函數(shù)f(y)。這個(gè)神經(jīng)元的最終輸出是。如果考慮所有M個(gè)神經(jīng)元在同一層，則整個(gè)線性操作就是向量矩陣的乘法，y'=w'x其中，y'是由M個(gè)不同神經(jīng)元的線性加權(quán)求和組成的向量，w'指M

×

N是由所有權(quán)重系數(shù)組成的矩陣。與人工神經(jīng)網(wǎng)絡(luò)的電子實(shí)現(xiàn)相比，光學(xué)實(shí)現(xiàn)可以以更低能耗光速進(jìn)行各個(gè)神經(jīng)元的并行計(jì)算。（一）光學(xué)線性加權(quán)求和對(duì)于全連接神經(jīng)網(wǎng)絡(luò)的光學(xué)實(shí)現(xiàn)，需要光學(xué)地進(jìn)行加權(quán)求和運(yùn)算或向量矩陣乘法運(yùn)算。到目前為止，已經(jīng)有多種不同光學(xué)加權(quán)求和的實(shí)驗(yàn)實(shí)現(xiàn)，見(jiàn)下文。1.級(jí)聯(lián)的馬赫-曾德?tīng)柛缮鎯x文獻(xiàn)[36,39?50]中，輸入和輸出矢量由不同端口的多個(gè)相干光信號(hào)強(qiáng)度表示。作為矢量矩陣乘法的光計(jì)算裝置，其由眾多的級(jí)聯(lián)馬赫-曾德?tīng)柛缮鎯x（MZI）組成一個(gè)相互連接的網(wǎng)絡(luò)。級(jí)聯(lián)MZI的基本概念可以追溯到1994年的早期工作，最近的工作提出了一個(gè)包含56個(gè)MZI的硅光子集成電路的可編程納米光子處理器。數(shù)學(xué)上，通過(guò)奇異值分解（SVD），一個(gè)普通的實(shí)矩陣w'可以被分解為w'=UΣV，其中，U和V分別是M×M和N×N的幺正矩陣，Σ是M×N的非負(fù)定對(duì)角矩陣。U和V都可以利用MZI的網(wǎng)格用光學(xué)實(shí)現(xiàn)，可以通過(guò)光衰減器實(shí)現(xiàn)。作為系統(tǒng)的基本單元，MZI有兩個(gè)分束器和兩個(gè)可調(diào)諧的移相器，如圖1所示。需要注意的是，一個(gè)MZI并不等同于人工神經(jīng)網(wǎng)絡(luò)中的一個(gè)神經(jīng)元，但是一個(gè)級(jí)聯(lián)MZI系統(tǒng)可以在一個(gè)神經(jīng)網(wǎng)絡(luò)中的兩層神經(jīng)元之間同時(shí)執(zhí)行相同的線性向量矩陣乘法運(yùn)算。MZI網(wǎng)格設(shè)計(jì)時(shí)需要優(yōu)化所有MZI的互連拓?fù)浜兔總€(gè)移相器的移相角。對(duì)于一個(gè)典型的級(jí)聯(lián)MZI系統(tǒng)，一個(gè)N×N的矩陣乘法至少需要N×(N-1)/2個(gè)分束器。對(duì)于矢量矩陣計(jì)算，MZI網(wǎng)格的構(gòu)建方法并不是唯一的。例如，可以為相同的向量矩陣計(jì)算設(shè)計(jì)兩種不同的MZI網(wǎng)格，分別具有更可調(diào)或更容錯(cuò)的特點(diǎn)。人們已經(jīng)研究了MZI網(wǎng)格對(duì)實(shí)際不完美光子元件對(duì)應(yīng)的工藝誤差和不精確度的魯棒性。通過(guò)三維（3D）打印光波導(dǎo)，級(jí)聯(lián)MZI系統(tǒng)可以從二維（2D）擴(kuò)展到3D，這可以實(shí)現(xiàn)更高的計(jì)算能力。復(fù)數(shù)運(yùn)算還可以有效地在該架構(gòu)實(shí)現(xiàn)。人們已經(jīng)嘗試將級(jí)聯(lián)MZI用于各種AI任務(wù)，如語(yǔ)音識(shí)別、花卉數(shù)據(jù)分類和葡萄酒數(shù)據(jù)分類。圖1.線性矢量矩陣乘法的級(jí)聯(lián)MZI的系統(tǒng)。Si：硅材料；SiO2：二氧化硅材料。經(jīng)TheOpticalSocietyofAmerica,?2019許可轉(zhuǎn)載自文獻(xiàn)。2.深度衍射神經(jīng)網(wǎng)絡(luò)在深度衍射神經(jīng)網(wǎng)絡(luò)（D2NN）結(jié)構(gòu)中，級(jí)聯(lián)衍射光學(xué)元件（DOE）垂直于光的傳播方向并互相之間有一定空間分隔距離，如圖2所示。輸入和輸出平面上的空間光強(qiáng)分布分別對(duì)應(yīng)輸入和輸出向量。入射光場(chǎng)在自由空間中向前傳播，并由每個(gè)DOE依次調(diào)制。類似于深度學(xué)習(xí)中的對(duì)應(yīng)算法，所有DOE的像素值（僅相位、僅幅值或復(fù)振幅值）是通過(guò)誤差反向傳播算法進(jìn)行優(yōu)化的。優(yōu)化后的系統(tǒng)從輸入光場(chǎng)到輸出光場(chǎng)通過(guò)線性變換實(shí)現(xiàn)矢量矩陣乘法。D2NN系統(tǒng)的信息處理能力取決于衍射層的數(shù)目。該體系結(jié)構(gòu)可以充當(dāng)一個(gè)線性分類器，并已被證明能夠以適當(dāng)?shù)木葘?duì)MNIST數(shù)據(jù)庫(kù)中的數(shù)字圖像和Fashion-MNIST數(shù)據(jù)庫(kù)中的服飾產(chǎn)品圖像進(jìn)行光學(xué)分類。后來(lái)的相關(guān)研究在不同方面改進(jìn)D2NN結(jié)構(gòu)。原始的D2NN是由太赫茲源驅(qū)動(dòng)的，一個(gè)帶有紅外源的體積更小的系統(tǒng)在參考文獻(xiàn)中被提出。D2NN的實(shí)現(xiàn)不局限于單色相干光，寬帶D2NN還可以用于光譜濾波和波長(zhǎng)解復(fù)用應(yīng)用。D2NN可以與數(shù)字處理器或數(shù)字神經(jīng)網(wǎng)絡(luò)相結(jié)合來(lái)提高推斷能力。一種類似于殘差深度學(xué)習(xí)網(wǎng)絡(luò)的殘差D2NN結(jié)構(gòu)已經(jīng)被提出，其可以通過(guò)多個(gè)反射鏡簡(jiǎn)單地實(shí)現(xiàn)輸入輸出之間的直接快捷連接。無(wú)透鏡自由空間傳播可以用透鏡的光學(xué)傅里葉變換來(lái)代替，從而提高其預(yù)測(cè)精度。通過(guò)對(duì)訓(xùn)練圖像進(jìn)行幾何變換，可以增強(qiáng)D2NN系統(tǒng)的平移、旋轉(zhuǎn)和尺度不變的識(shí)別能力。仿真結(jié)果表明，D2NN系統(tǒng)能夠解決更多樣化的計(jì)算機(jī)視覺(jué)任務(wù)，比如，圖像分割、特征檢測(cè)和圖像超分辨率以及目標(biāo)分類。圖２.D2NN的光學(xué)系統(tǒng)。L1、L2、L3

和Ln：第一、第二、第三和第ｎ個(gè)衍射層。經(jīng)TheAmericanAssociationfortheAdvancementofScience,?2018許可轉(zhuǎn)載自文獻(xiàn)。除了傳統(tǒng)的機(jī)器學(xué)習(xí)任務(wù)外，D2NN還可以應(yīng)用于其他的光計(jì)算和光信號(hào)處理任務(wù)，包括激光雷達(dá)的智能波束控制、圖像加密、光學(xué)邏輯門(mén)、脈沖整形以及模分復(fù)用光纖通信中的模式識(shí)別/復(fù)用/解復(fù)用。3.基于空間光調(diào)制器和透鏡的光計(jì)算與前兩種使用相干光的架構(gòu)不同，這種基于空間光調(diào)制器（SLM）和透鏡的架構(gòu)不受限于相干光和非相干光照明。照亮一個(gè)SLM平面的不同像素（或部分）的入射光強(qiáng)度分布攜帶輸入矢量值。SLM的不同像素通過(guò)不同加權(quán)系數(shù)進(jìn)行編碼。其中，SLM放置在透鏡的后焦平面，而光匯聚到焦點(diǎn)。探測(cè)器放置在透鏡的焦點(diǎn)，然后收集SLM平面上的總光強(qiáng)作為輸入向量和加權(quán)系數(shù)矢量的內(nèi)積。圖3（a）所示的裝置類似于光學(xué)成像中的單像素成像（或鬼成像）概念。通過(guò)使用不同類型的透鏡，有許多方法可以實(shí)現(xiàn)完全的向量矩陣乘法。通常，可以使用傅里葉透鏡實(shí)現(xiàn)沿同一方向輸出光的疊加，沿不同方向平行光的不同焦點(diǎn)對(duì)應(yīng)于輸出向量的不同分量。另一種選擇是使用柱面透鏡。柱面透鏡只在水平方向或垂直方向的平行光和會(huì)聚光之間進(jìn)行轉(zhuǎn)換。輸入向量由沿水平像素化陣列的光強(qiáng)分布表示。兩個(gè)柱面透鏡在SLM平面上實(shí)現(xiàn)一維（1D）輸入陣列的扇出復(fù)制和1D加權(quán)求和，如圖3（b）所示。最后，用輸出焦平面上沿垂直陣列的光強(qiáng)分布表示乘法運(yùn)算結(jié)果。此外，向量矩陣乘法可以通過(guò)簡(jiǎn)單地用一個(gè)傅里葉透鏡多次重復(fù)加權(quán)求和操作來(lái)實(shí)現(xiàn)?；赟LM和透鏡的體系結(jié)構(gòu)可以很容易地與冷原子系統(tǒng)相結(jié)合，實(shí)現(xiàn)具有線性和非線性變換的全光學(xué)深度神經(jīng)網(wǎng)絡(luò)?；谠摻Y(jié)構(gòu)可以構(gòu)建包含174個(gè)光學(xué)神經(jīng)元的大規(guī)?？删幊倘馍疃壬窠?jīng)網(wǎng)絡(luò)。與其他結(jié)構(gòu)相比，其可實(shí)現(xiàn)對(duì)不同任務(wù)進(jìn)行可重復(fù)編程，而無(wú)需改變物理裝置。圖3.（a）SLM和傅里葉透鏡的線性加權(quán)求和運(yùn)算；（b）用SLM和柱面透鏡進(jìn)行的向量矩陣乘法。（a）經(jīng)TheOpticalSocietyofAmerica,?2019許可轉(zhuǎn)載自文獻(xiàn)。4.波分多路復(fù)用該方法采用波分多路復(fù)用（WDM）方式實(shí)現(xiàn)線性加權(quán)求和。輸入矢量中的每個(gè)元素都由一個(gè)特定頻率（或波長(zhǎng)）的光波表示，然后通過(guò)微環(huán)諧振器（MRR）構(gòu)建的光子權(quán)重組對(duì)其進(jìn)行不同的光譜濾波；從而對(duì)輸入信號(hào)進(jìn)行加權(quán)，如圖4所示。平衡光電二極管（BPD）通過(guò)采集不同波段所有信號(hào)的總光強(qiáng)來(lái)實(shí)現(xiàn)加權(quán)線性求和。這種結(jié)構(gòu)被認(rèn)為有可能與主流的硅光子器件平臺(tái)兼容。參考文獻(xiàn)提出了一種簡(jiǎn)化的微環(huán)權(quán)重組反饋控制方法，以產(chǎn)生良好的濾波響應(yīng)。改進(jìn)后的MRR控制方法可以兼容大規(guī)模光子集成電路。該結(jié)構(gòu)已用于主成分分析計(jì)算。在最近的工作中，WDM架構(gòu)與基于光子芯片的微頻梳相結(jié)合，這可以顯著提高數(shù)據(jù)處理速度和容量。另外可以將非易失性相變材料（PCM）集成到波導(dǎo)上來(lái)實(shí)現(xiàn)芯片上局部存儲(chǔ)加權(quán)值。文獻(xiàn)[82]中的光矢量卷積加速器每秒可執(zhí)行超過(guò)10萬(wàn)億次運(yùn)算。圖４.帶有WDM和MRR的光計(jì)算。和：權(quán)重組的第一和第四個(gè)MRR；LD：激光二極管；MZM：Mach-Zehnder調(diào)制器。經(jīng)SpringerNature,?2017許可轉(zhuǎn)載自文獻(xiàn)。5.其他方案矢量矩陣乘法也可以基于光在納米光子介質(zhì)中的傳播實(shí)現(xiàn)，如圖5所示。進(jìn)入介質(zhì)的輸入光強(qiáng)分布表示輸入圖像模式。光場(chǎng)通過(guò)介質(zhì)后的輸出強(qiáng)度分布表示計(jì)算結(jié)果，比如圖像分類結(jié)果。介質(zhì)由不同光學(xué)系數(shù)的基底材料和夾雜物材料組成，夾雜物材料可以產(chǎn)生更強(qiáng)的散射光。通過(guò)適當(dāng)優(yōu)化夾雜物的位置和形狀，設(shè)計(jì)介質(zhì)內(nèi)部光場(chǎng)的散射，實(shí)現(xiàn)其與權(quán)重矩陣的矢量乘法。在最近的一項(xiàng)研究中，為了降低設(shè)計(jì)的復(fù)雜性，連續(xù)介質(zhì)被優(yōu)化帶狀的多層超表面所取代。圖5.用于光計(jì)算的帶有夾雜物的納米光子介質(zhì)?；疑褐黧w基底材料；白：夾雜物。經(jīng)ChinaLaserPress,?2019許可轉(zhuǎn)載自文獻(xiàn)。在基于相干矩陣乘法器的架構(gòu)中，輸入矢量和權(quán)重值都被編碼為多通道的相干光信號(hào)。零差探測(cè)器采用量子光電倍增過(guò)程實(shí)現(xiàn)線性加權(quán)求和。相干矩陣乘法器在實(shí)現(xiàn)大規(guī)模、快速可編程的光子神經(jīng)網(wǎng)絡(luò)方面具有一些潛在的優(yōu)勢(shì)。此外，ONN可以在多芯光纖中實(shí)現(xiàn)。每個(gè)輸入、輸出和加權(quán)值都由多芯光纖中每個(gè)芯的光強(qiáng)表示。表示權(quán)重的芯經(jīng)過(guò)摻鉺，可作為可控放大器。光信號(hào)通過(guò)光耦合在芯間橫向傳輸來(lái)模擬神經(jīng)網(wǎng)絡(luò)中信號(hào)的前向傳播。參考文獻(xiàn)[86?87]中的仿真結(jié)果表明，多芯光纖可以構(gòu)建三層神經(jīng)網(wǎng)絡(luò)。（二）光學(xué)線性卷積與全連接神經(jīng)網(wǎng)絡(luò)相比，卷積神經(jīng)網(wǎng)絡(luò)（CNN）中的神經(jīng)元連接更為稀疏。此外，多個(gè)連接具有相同的權(quán)重值。相鄰兩層神經(jīng)元之間的卷積運(yùn)算本質(zhì)上是一種簡(jiǎn)化的向量矩陣乘法運(yùn)算。數(shù)學(xué)上，輸入圖像與核函數(shù)的卷積等價(jià)于輸入圖像的傅里葉濾波。在光學(xué)中，包含圖像信息的輸入光場(chǎng)的傅里葉變換和反傅里葉變換可以很容易地通過(guò)4f雙透鏡裝置來(lái)實(shí)現(xiàn)。根據(jù)卷積核設(shè)計(jì)的濾波掩?？梢苑胖迷?f裝置的傅里葉平面里。之前的工作證明了這種光學(xué)卷積操作可以顯著降低CNN的計(jì)算成本。文獻(xiàn)[91]進(jìn)一步實(shí)現(xiàn)了在傅里葉域進(jìn)行卷積的廣義光子張量運(yùn)算處理器。此外，卷積運(yùn)算也可以通過(guò)其他方式實(shí)現(xiàn)，比如，級(jí)聯(lián)聲光調(diào)制器陣列、WDW加光延遲線或色散誘導(dǎo)延遲和3D打印光子波導(dǎo)電路。（三）光學(xué)非線性激活函數(shù)如果一個(gè)神經(jīng)網(wǎng)絡(luò)是完全線性的，沒(méi)有任何非線性激活函數(shù)，那么在物理上可以有多層線性變換，但由于多個(gè)矩陣的乘法結(jié)果仍然是一個(gè)矩陣，因此有效的計(jì)算總是等價(jià)于一層。為了實(shí)現(xiàn)全光深度神經(jīng)網(wǎng)絡(luò)，非線性激活函數(shù)的實(shí)現(xiàn)是必不可少的。不幸的是，光學(xué)中的非線性行為并不容易通過(guò)實(shí)驗(yàn)實(shí)現(xiàn)，這使得實(shí)現(xiàn)可行的非線性激活函數(shù)成為ONN研究中最具挑戰(zhàn)性的問(wèn)題之一。在許多ONN研究中，只在光學(xué)上實(shí)現(xiàn)線性運(yùn)算，而非線性運(yùn)算通常是通過(guò)模擬實(shí)現(xiàn)的。一般情況下，非線性激活函數(shù)可以由電子元件和光學(xué)元件組成的混合系統(tǒng)來(lái)實(shí)現(xiàn)，但這種方式不可避免地會(huì)由于光信號(hào)和電信號(hào)之間的相互轉(zhuǎn)換而降低光計(jì)算性能。理想的方案是使用純光學(xué)元件實(shí)現(xiàn)非線性激活函數(shù)，最近通過(guò)使用電磁感應(yīng)透明（EIT）證明了這是可能的。EIT是在一束光的透明度受另一束光控制的介質(zhì)中的相干光學(xué)非線性效應(yīng)，如圖6所示。理論上，EIT可以發(fā)生在任何具有三重態(tài)的真實(shí)材料系統(tǒng)中，其中不同態(tài)之間的躍遷概率幅值取決于它們的粒子分布。在參考文獻(xiàn)[69,72]中，Zuo等在2D磁光阱（MOT）中使用冷原子系統(tǒng)。該項(xiàng)研究中作者結(jié)合SLM和透鏡的線性變換及EIT的非線性激活函數(shù)構(gòu)造了一個(gè)完整的全光實(shí)現(xiàn)的ONN，并利用其對(duì)Ising模型的不同相位進(jìn)行了分類。此外，還有其他實(shí)現(xiàn)非線性激活函數(shù)的方法，比如，反向飽和吸收（RSA）等，但到目前為止，很少有方法在實(shí)驗(yàn)中被證明是可行的。圖6.利用EIT實(shí)現(xiàn)非線性激活函數(shù)。ωc：耦合梁的頻率；ωp：探頭波束頻率；σ+：圓偏振光。經(jīng)TheOpticalSocietyofAmerica,?2019許可轉(zhuǎn)載自文獻(xiàn)。（四）在線光學(xué)訓(xùn)練深度學(xué)習(xí)網(wǎng)絡(luò)通常首先通過(guò)大量的樣本進(jìn)行訓(xùn)練，以優(yōu)化所有的權(quán)重系數(shù)。經(jīng)過(guò)訓(xùn)練后，網(wǎng)絡(luò)可以對(duì)測(cè)試樣本有效地執(zhí)行某一推理任務(wù)。在許多ONN相關(guān)研究中，比如參考文獻(xiàn)，訓(xùn)練在計(jì)算機(jī)上完全數(shù)字化離線進(jìn)行，只有ONN的推斷是通過(guò)光學(xué)進(jìn)行的。但是，研究者在一定程度上也嘗試了ONN的在線訓(xùn)練。MZI網(wǎng)格的在線訓(xùn)練已經(jīng)在一些工作中進(jìn)行了研究。誤差反向傳播是數(shù)字神經(jīng)網(wǎng)絡(luò)中應(yīng)用最廣泛的訓(xùn)練算法。用伴隨變量法可以推導(dǎo)出復(fù)雜的MZI網(wǎng)格對(duì)應(yīng)的反向傳播算法的光學(xué)模擬。在訓(xùn)練中，計(jì)算中的梯度可以通過(guò)MZI網(wǎng)格中不同節(jié)點(diǎn)的光強(qiáng)度來(lái)測(cè)量。另外，可以使用僅需正向傳播而無(wú)需反向傳播的有限差分方法對(duì)級(jí)聯(lián)MZI系統(tǒng)進(jìn)行片上訓(xùn)練。遺傳算法和粒子群算法是對(duì)MZI網(wǎng)格的參數(shù)進(jìn)行優(yōu)化的兩種神經(jīng)演化算法，其可用于在線訓(xùn)練。這些全局優(yōu)化算法是無(wú)梯度的，并且可以避免局部極小值問(wèn)題。參考文獻(xiàn)[56]已經(jīng)研究過(guò)D2NN結(jié)構(gòu)的在線訓(xùn)練方法。DNN的標(biāo)準(zhǔn)訓(xùn)練算法是基于誤差反向傳播，而光互易和相位關(guān)聯(lián)原理是通過(guò)測(cè)量向前和向后傳播光場(chǎng)得到的原位梯度。可以使用SLM替代每一層的靜態(tài)DOE來(lái)進(jìn)行動(dòng)態(tài)訓(xùn)練和參數(shù)更新。實(shí)際輸出光場(chǎng)與目標(biāo)光場(chǎng)之間的殘差是由一個(gè)用于光場(chǎng)反向傳播的復(fù)雜場(chǎng)產(chǎn)生模塊（CFGM）生成的。仿真結(jié)果表明，與離線計(jì)算機(jī)訓(xùn)練相比，該在線訓(xùn)練方法可以節(jié)省大量的計(jì)算成本。如果存在合適的優(yōu)化算法、精確的實(shí)驗(yàn)測(cè)量和動(dòng)態(tài)編碼的光學(xué)元件，則其他ONN架構(gòu)也可以實(shí)現(xiàn)片上在線訓(xùn)練。三、光學(xué)蓄水池計(jì)算光學(xué)蓄水池計(jì)算（RC）是一種來(lái)自遞歸神經(jīng)網(wǎng)絡(luò)中神經(jīng)形態(tài)的計(jì)算框架，其允許快速學(xué)習(xí)和各種硬件系統(tǒng)的簡(jiǎn)單實(shí)現(xiàn)。由于其在處理暫存數(shù)據(jù)方面的特殊優(yōu)勢(shì)，該結(jié)構(gòu)在執(zhí)行時(shí)序信號(hào)預(yù)測(cè)和語(yǔ)音識(shí)別等時(shí)序相關(guān)任務(wù)時(shí)可以得到最佳優(yōu)化效果。RC結(jié)構(gòu)通常由一個(gè)固定的非線性機(jī)制（即儲(chǔ)存節(jié)點(diǎn)）組成，它允許輸入信號(hào)在更高維空間中轉(zhuǎn)換成時(shí)空態(tài)。通過(guò)訓(xùn)練一個(gè)儲(chǔ)存態(tài)的讀取器來(lái)獲取蓄水池動(dòng)態(tài)，從而得到儲(chǔ)存的時(shí)間輸出數(shù)據(jù)。本小節(jié)回顧了RC在集成光學(xué)系統(tǒng)或空間光學(xué)衍射系統(tǒng)中全光學(xué)或光電混合的實(shí)現(xiàn)方式。（一）全光學(xué)RCRC的全光實(shí)現(xiàn)和光電實(shí)現(xiàn)之間的差異取決于不同類型的蓄水池和輸入層。接下來(lái)，我們將全光結(jié)構(gòu)從空間分布的RC引入到基于時(shí)延的RC。超高速計(jì)算和低功耗是全光RC系統(tǒng)的主要優(yōu)點(diǎn)。1.基于衍射耦合的空間分布RC空間分布光子RC是利用DOE實(shí)現(xiàn)光學(xué)RC的一種方法。2015年，Brunner和Fischer提出了一種垂直腔表面發(fā)射激光器（VCSEL）網(wǎng)絡(luò)。圖7為普林斯頓光電公司的芯片示意圖。圖７.（a）VCSEL激光二極管陣列；（b）通過(guò)實(shí)現(xiàn)所設(shè)計(jì)的衍射諧振器來(lái)實(shí)現(xiàn)激光間的耦合。d1：像距；d2：物距；λ：波長(zhǎng)；φ：偏置角；κDOE：DOE的效率；POL：偏振片。經(jīng)TheOpticalSocietyofAmerica,?2015許可轉(zhuǎn)載自文獻(xiàn)。該RC結(jié)構(gòu)已通過(guò)DOE實(shí)現(xiàn)了激光耦合和衍射復(fù)用。圖7展示了實(shí)驗(yàn)實(shí)現(xiàn)過(guò)程，其介紹了由VCSEL組成的圖像結(jié)構(gòu)。此處，VCSEL陣列晶格間距與成像透鏡焦距的組合可以在相鄰激光器的主射線之間形成一個(gè)角度，這個(gè)角度可以通過(guò)透鏡的焦距來(lái)調(diào)節(jié)。固有的生產(chǎn)過(guò)程使得位于陣列上的激光器受到整個(gè)激光集成電路參數(shù)變化的影響。因此，所展示的與周期DOE的衍射耦合易受這些差異的影響。除了網(wǎng)絡(luò)耦合外，衍射成像還允許多個(gè)激光器進(jìn)行平行光調(diào)制，而激光耦合的主要局限是由圖像的光學(xué)像差決定的。該結(jié)構(gòu)具有相當(dāng)大的可擴(kuò)展性，其可擴(kuò)展到一個(gè)由數(shù)百個(gè)節(jié)點(diǎn)組成的網(wǎng)絡(luò)，且節(jié)點(diǎn)的放置面積小于1mm2。對(duì)于技術(shù)相關(guān)的實(shí)現(xiàn)，首先必須確保其引入方法的小型化。特別是由于注入鎖定現(xiàn)象，其需要在波長(zhǎng)上均勻分布。2.基于延遲的RC為了簡(jiǎn)化復(fù)雜的光學(xué)硬件，引入了一種新型的RC，即基于延遲線RC。他們將一個(gè)反饋結(jié)構(gòu)分成一系列虛擬節(jié)點(diǎn)和一個(gè)非線性節(jié)點(diǎn)形成的一個(gè)循環(huán)，從而形成延遲反饋。與空間分布的網(wǎng)絡(luò)自由度高的RC相比，這類儲(chǔ)存是固定的，其可以被用于更傳統(tǒng)的光通信硬件。基于延遲線的RC示意圖如圖8（a）所示，下面我們展示了基于延遲線RC中的兩種典型的延遲。圖8.（a）基于延遲線的RC框架。延遲回路由許多間隔隔開(kāi)，形成蓄水池。蓄水池包含沿延遲線的虛擬節(jié)點(diǎn)。（b）基于半導(dǎo)體激光器的蓄水池框架；它利用一系列光學(xué)器件建立RC。NL：非線性節(jié)點(diǎn)；τ：反饋回路中的延遲；PD：光電二極管；；U(e)

(t)：電氣信息輸入；U(o)

(t)：光學(xué)信息輸入；τD：反饋延遲。（a）經(jīng)SpringerNature,?2011許可轉(zhuǎn)載自文獻(xiàn)；（b）經(jīng)SpringerNature,?2013許可轉(zhuǎn)載自文獻(xiàn)。我們首先討論了第一種基于延遲的RC，其光輸入是全光蓄水池。這種RC包含幾種基于半導(dǎo)體激光器、半導(dǎo)體光學(xué)放大器（SOA）或無(wú)源光腔的實(shí)現(xiàn)。利用有源器件引入了兩種不同類型的非線性響應(yīng)：SOA和半導(dǎo)體激光器。在輸入端注入調(diào)制光場(chǎng)，檢測(cè)后通過(guò)輸出層。這個(gè)RC范式具有處理復(fù)雜計(jì)算任務(wù)的潛力。此外，光學(xué)蓄水池能夠以相對(duì)較高的速率處理信息，速率達(dá)每秒千兆字節(jié)。圖8（b）為該系統(tǒng)的原理圖。通過(guò)半導(dǎo)體和光反饋?zhàn)⑷氲耐獠枯斎雽涌捎糜谛纬晒鈱W(xué)蓄水池。此外，基于延遲的光學(xué)蓄水池可以在芯片上實(shí)現(xiàn)。證明，必要的光學(xué)偏置注入可以增加半導(dǎo)體激光器的光學(xué)調(diào)制帶寬，允許比系統(tǒng)更短的延遲時(shí)間?；诠夥答伒钠习雽?dǎo)體環(huán)形激光器可以同時(shí)解決兩個(gè)不同的任務(wù)，即分類任務(wù)和時(shí)間序列預(yù)測(cè)任務(wù)。通過(guò)偏置注入方法可以增加半導(dǎo)體激光器的帶寬，從而得到比系統(tǒng)更短的延遲時(shí)間。分類和預(yù)測(cè)任務(wù)可以通過(guò)一個(gè)基于光學(xué)反饋的片上半導(dǎo)體激光器來(lái)解決。如果對(duì)讀出層稍作調(diào)制，使用短的外腔可以避開(kāi)相位靈敏度。無(wú)源器件的發(fā)展必然要求開(kāi)發(fā)低功耗、高效率的光學(xué)計(jì)算機(jī)。將半導(dǎo)體可飽和吸收鏡（SESAM）置于環(huán)形光學(xué)腔中。研究了一種相干驅(qū)動(dòng)無(wú)源腔下的光子RC。如果我們?cè)谛钏赜?jì)算機(jī)中進(jìn)行非線性輸出，就有可能使用線性光纖腔，其可以很容易地完成基于語(yǔ)音信息的數(shù)字識(shí)別等任務(wù)。（二）光電RC基于光電系統(tǒng)的RC在語(yǔ)音識(shí)別、混沌時(shí)間預(yù)測(cè)以及雷達(dá)信號(hào)預(yù)測(cè)等多個(gè)領(lǐng)域得到了廣泛的應(yīng)用并扮演了很重要的角色。目前光電RC的處理速度已經(jīng)實(shí)現(xiàn)了兆赫速度，在可預(yù)見(jiàn)的未來(lái)，其可能發(fā)展到千兆赫速度。1.芯片級(jí)別的RC2008年，宣布了第一個(gè)基于絕緣體上硅的硬件RC，其由波導(dǎo)、光組合器和光學(xué)分束器組成。研究發(fā)現(xiàn)，通過(guò)標(biāo)準(zhǔn)的快速光電二極管檢測(cè)可以解決非線性問(wèn)題。然而，由于該系統(tǒng)依賴于探測(cè)器中的光電轉(zhuǎn)換，因此不能完全采用光學(xué)操作。圖9.基于無(wú)源硅片的蓄層。ER：出錯(cuò)率；“?”表示前一個(gè)比特編號(hào)。經(jīng)SpringerNature,?2014許可轉(zhuǎn)載自文獻(xiàn)。使用無(wú)源器件的優(yōu)點(diǎn)是其寬帶寬，甚至可以同步發(fā)送多個(gè)波長(zhǎng)到系統(tǒng)中，從而實(shí)現(xiàn)離散波長(zhǎng)的并行操作系統(tǒng)。新的學(xué)習(xí)技術(shù)可以用來(lái)適應(yīng)長(zhǎng)期的相移。其缺點(diǎn)之一是隨著芯片擴(kuò)展到更多的節(jié)點(diǎn)，對(duì)應(yīng)的光學(xué)損耗可能是相當(dāng)大的，很難實(shí)現(xiàn)對(duì)所有節(jié)點(diǎn)的并行測(cè)量。在無(wú)源器件網(wǎng)絡(luò)中，輸入信號(hào)時(shí)鐘和儲(chǔ)存時(shí)間的頻率依賴于離散節(jié)點(diǎn)之間的傳播延遲，這需要高達(dá)每秒數(shù)百Gbit的高注入頻率。通過(guò)各種任務(wù)對(duì)RC的計(jì)算性能進(jìn)行了估計(jì)。為此，研究人員需要通過(guò)在某一點(diǎn)將光學(xué)信號(hào)注入蓄水池來(lái)簡(jiǎn)化軟件RC中的隨機(jī)輸入連接性。當(dāng)處理較長(zhǎng)時(shí)間序列數(shù)據(jù)時(shí)，需要更大的芯片。如圖9所示，實(shí)驗(yàn)結(jié)果僅為數(shù)值，其可以構(gòu)造為一個(gè)集成濾波器。在實(shí)驗(yàn)和系統(tǒng)的數(shù)字化應(yīng)用中，還需要進(jìn)一步評(píng)估語(yǔ)音數(shù)字的識(shí)別等任務(wù)。在所有測(cè)試中，系統(tǒng)都輸出了足夠的結(jié)果。此外，還可以在硅芯片上實(shí)現(xiàn)類似池田環(huán)形光腔的光電實(shí)現(xiàn)，從而構(gòu)建基于延遲的RC。分別研制了這種RC的光電實(shí)現(xiàn)。圖10.（a）光電蓄水池計(jì)算機(jī)架構(gòu)。光學(xué)路徑用紅色表示，電子路徑用藍(lán)色表示。（b）模擬讀出層架構(gòu)。DFB：分布式反饋；x(t)：延遲信號(hào)；τD：延遲時(shí)間；w(t)：連續(xù)時(shí)間加權(quán)函數(shù)；AWG：任意波形發(fā)生器；R、L、C：電阻器、電感、電容。（a）經(jīng)TheOpticalSocietyofAmerica,?2012許可轉(zhuǎn)載自文獻(xiàn)；（b）經(jīng)SpringerNature,?2016許可轉(zhuǎn)載自文獻(xiàn)。光電RC的大多數(shù)硬件實(shí)現(xiàn)中其輸入和輸出層是在一個(gè)標(biāo)準(zhǔn)計(jì)算機(jī)上的離線仿真，其中計(jì)算機(jī)在硬件上的模擬RC可以實(shí)現(xiàn)大多數(shù)輸入和輸出層。然而，通過(guò)在模擬硬件上實(shí)現(xiàn)的三層RC已經(jīng)建立了帶有光電器件的單層蓄水池計(jì)算機(jī)。輸入層可以通過(guò)具有兩種不同正弦頻率的掩模實(shí)現(xiàn)。雙輸出Mach-Zehnder調(diào)制器（MZM）包含從光學(xué)蓄水池獲取的信號(hào)以及RLC濾波器對(duì)BPD輸出信號(hào)的濾波，如圖10（b）所示。整個(gè)模擬系統(tǒng)的輸出成為蓄水池計(jì)算機(jī)的終端輸出。其讀出層如圖10（b）所示。雖然人們很少考慮到訓(xùn)練時(shí)延RC的讀出權(quán)重，但提出使用可編程門(mén)陣列（FPGA）作為一種新的在線訓(xùn)練權(quán)值的專用硬件。這種光電實(shí)現(xiàn)已經(jīng)很好地應(yīng)用于神經(jīng)信息處理和混沌系統(tǒng)仿真。FPGA可以以數(shù)百兆赫的速度處理信息。此外，傳統(tǒng)的訓(xùn)練算法，比如遺傳算法和梯度下降算法可以用于上述提到的在線訓(xùn)練。其還可以實(shí)現(xiàn)多個(gè)延遲來(lái)提高光子延遲RC的性能。2.自由空間光學(xué)的RCRC光子實(shí)現(xiàn)的另一種方法是利用特殊光學(xué)元件的可激性?；诿}沖（spike）模型的神經(jīng)形態(tài)可激光子器件可以通過(guò)半導(dǎo)體技術(shù)實(shí)現(xiàn)。因此，這種可激發(fā)的納米光學(xué)器件的網(wǎng)絡(luò)實(shí)現(xiàn)類似于神經(jīng)形態(tài)的激發(fā)，這大大減小了功耗。當(dāng)光強(qiáng)增加到一個(gè)穩(wěn)定的閾值內(nèi)時(shí)，激光器被轉(zhuǎn)化為一個(gè)激發(fā)態(tài)系統(tǒng)，如spike。2016年，用兩個(gè)可激激光器完成了其對(duì)應(yīng)的數(shù)字實(shí)驗(yàn)。他們?cè)u(píng)估了一個(gè)基于半導(dǎo)體激光器的電光激發(fā)的更大網(wǎng)絡(luò)。利用WDM技術(shù)就可以將系統(tǒng)中的多個(gè)節(jié)點(diǎn)集成在一個(gè)芯片上。2011年，建立了另一種結(jié)構(gòu)，即單片半導(dǎo)體微柱激光器的可激神經(jīng)元樣脈沖行為。該結(jié)構(gòu)具有不應(yīng)期。微環(huán)和圓盤(pán)激光器也表現(xiàn)出了光學(xué)可激性。與以往的設(shè)計(jì)相比，這些同步激光器件的機(jī)制取代了飽和吸收體，并表現(xiàn)出內(nèi)部對(duì)稱性破缺的特性。到目前為止，最新的研究進(jìn)展表明，光學(xué)技術(shù)可以以空前速度實(shí)現(xiàn)SNN。最近，人們提出了一種基于空間可擴(kuò)展的數(shù)字微鏡器件（DMD）和SLM光子庫(kù)的新方法。2018年，證明了一個(gè)帶有SLM、DOE和相機(jī)的光學(xué)系統(tǒng)可以存儲(chǔ)多達(dá)2500個(gè)衍射耦合光子節(jié)點(diǎn)的網(wǎng)絡(luò)。Dong等通過(guò)二進(jìn)制方式調(diào)制光強(qiáng)，并用DMD對(duì)輸入信息和蓄水池進(jìn)行編碼。后來(lái)，他們采用了相同的方法，使用純相位SLM制得了一個(gè)大規(guī)模的光蓄水池網(wǎng)絡(luò)。借助空間相位分布，蓄水池網(wǎng)絡(luò)可以引入輸入和蓄水池信息。2020年，發(fā)現(xiàn)，強(qiáng)散射介質(zhì)在光學(xué)網(wǎng)絡(luò)中起著關(guān)鍵作用，其保證了眾多光學(xué)節(jié)點(diǎn)之間的隨機(jī)耦合權(quán)重以及網(wǎng)絡(luò)中的并行處理。多維大混沌系統(tǒng)的預(yù)測(cè)任務(wù)已在其大系統(tǒng)中得到了驗(yàn)證，其具有較高的預(yù)測(cè)精度、較高的速度以及較低的功耗。該網(wǎng)絡(luò)具有良好的可擴(kuò)展性和處理大數(shù)據(jù)集的能力。（三）展望隨著納米光學(xué)與RC復(fù)合結(jié)構(gòu)的出現(xiàn)，一種新的光學(xué)信息處理方法正在引領(lǐng)這一領(lǐng)域的發(fā)展。與傳統(tǒng)方法相比，該方法具有低功耗、超高速等優(yōu)點(diǎn)。對(duì)于光學(xué)RC未來(lái)的發(fā)展?jié)摿?，超高速光學(xué)非線性和超低功耗的光學(xué)器件在該領(lǐng)域可能會(huì)有廣闊的發(fā)展前景，其可以在速度和功耗方面大大提高蓄水池性能。此外，多節(jié)點(diǎn)庫(kù)光學(xué)芯片的可擴(kuò)展性也是未來(lái)研究的需要。四、脈沖神經(jīng)網(wǎng)絡(luò)（一）國(guó)內(nèi)外研究現(xiàn)狀脈沖神經(jīng)網(wǎng)絡(luò)（SNN）被認(rèn)為是生物學(xué)和神經(jīng)科學(xué)的交叉學(xué)科。與前饋神經(jīng)網(wǎng)絡(luò)和遞歸神經(jīng)網(wǎng)絡(luò)相比，SNN在神經(jīng)形態(tài)計(jì)算中的應(yīng)用更為廣泛。除了meta模型外，SNN中的神經(jīng)元只有在膜電位達(dá)到閾值時(shí)才被激活。當(dāng)神經(jīng)元被激活時(shí)，就會(huì)產(chǎn)生信號(hào)并將其傳遞到級(jí)聯(lián)神經(jīng)元的膜電位。在SNN中，當(dāng)前神經(jīng)元的激活程度通常被建模為一個(gè)特定的微分方程。達(dá)到刺激峰值后，被激活程度將會(huì)增大，并持續(xù)一段時(shí)間，然后逐漸下降。SNN增強(qiáng)了時(shí)空數(shù)據(jù)的處理能力。一方面，SNN中的神經(jīng)元只與附近的神經(jīng)元相連并單獨(dú)處理，其增強(qiáng)了空間信息的處理能力。另一方面，由于訓(xùn)練依賴于脈沖的間隔和二進(jìn)制碼中信息的缺失，其可以從脈沖的時(shí)間信息中找回，從而增加對(duì)時(shí)間信息的處理能力。事實(shí)證明，與傳統(tǒng)的人工神經(jīng)元相比，脈沖神經(jīng)元是更好的計(jì)算單元。然而，由于SNN在訓(xùn)練和物理實(shí)現(xiàn)上的困難，其還沒(méi)有得到廣泛的應(yīng)用。目前對(duì)SNN的研究大多集中在簡(jiǎn)單結(jié)構(gòu)的理論分析和驗(yàn)證上。然而，越來(lái)越多關(guān)于SNN的研究正在關(guān)注其訓(xùn)練算法和硬件（光學(xué)）實(shí)現(xiàn)。2016年，普林斯頓大學(xué)研究小組提出了一種基于可激活石墨烯光纖激光器的脈沖處理系統(tǒng)。該系統(tǒng)包含一個(gè)摻鉺光纖（增益部分）、一個(gè)石墨烯飽和吸收體（損耗部分）、一個(gè)980nm激光的泵浦源和一個(gè)1480nm的激發(fā)系統(tǒng)的脈沖刺激信號(hào)，其可以產(chǎn)生基于帶泄漏整合發(fā)放模型的脈沖神經(jīng)元響應(yīng)。2018年，研究團(tuán)隊(duì)提出了一種基于分布式反饋（DFB）的激光結(jié)構(gòu)類腦形態(tài)的集成光路。此外，研究小組還討論了構(gòu)建可編程級(jí)聯(lián)光學(xué)神經(jīng)網(wǎng)絡(luò)的可行方案，包括傳播-加權(quán)（B&W）網(wǎng)絡(luò)原型和相干光學(xué)架構(gòu)。其中，B&W網(wǎng)絡(luò)原型是一種支持大規(guī)模光學(xué)脈沖神經(jīng)元并行互連的網(wǎng)絡(luò)架構(gòu)。下面SNN的訓(xùn)練方法主要采用監(jiān)督學(xué)習(xí)算法。這些監(jiān)督學(xué)習(xí)算法包括：①SpikeProp算法，該算法采用梯度下降法，通常用于多層前饋人工神經(jīng)網(wǎng)絡(luò)；②Tempotron算法，利用脈沖序列輸出與期望序列的差值來(lái)改變網(wǎng)絡(luò)權(quán)重；③基于突觸可塑性的算法，如Hebbian學(xué)習(xí)算法；④遠(yuǎn)程監(jiān)督學(xué)習(xí)算法，如ReSuMe算法；⑤基于脈沖序列卷積的監(jiān)督學(xué)習(xí)算法，比如，脈沖模式關(guān)聯(lián)神經(jīng)元（SPAN）算法和精確脈沖驅(qū)動(dòng)（PSD）算法。還有基于VCSEL并使用垂直腔半導(dǎo)體光學(xué)放大器（VCSOA）實(shí)現(xiàn)脈沖時(shí)間依賴可塑性（STDP）的監(jiān)督和無(wú)監(jiān)督學(xué)習(xí)算法。2019年提出了另一種基于PCM的架構(gòu)，并利用該架構(gòu)對(duì)光學(xué)神經(jīng)元進(jìn)行非線性變換。光控PCM是一種工作態(tài)。材料在晶體和