|
引言
" d: k* C a7 D7 n基于可編程馬赫-曾德干涉儀(MZI)網(wǎng)格實現(xiàn)的光神經(jīng)網(wǎng)絡(luò)(ONN)已成為加速機器學(xué)習(xí)計算的方法。本文概述了基于MZI的光處理器,重點介紹了兩種關(guān)鍵架構(gòu) - Reck網(wǎng)格和Diamond網(wǎng)格,并分析了實現(xiàn)ONN的性能。4 n* i, j8 b2 z3 F D
6 u, v9 x2 U. y+ h7 H& `. gMZI光處理器基礎(chǔ)
$ E$ i$ }- Q1 @9 Y% ^! o8 q4 d' J0 i光處理器的基本構(gòu)建模塊是2x2可重構(gòu)MZI,如圖11所示。由兩個3-dB耦合器組成,帶有可調(diào)相移器θ和φ,用于控制功率分配比和兩個輸出之間的相對相位。: g" a6 d$ p; I$ i
oopqxrhyxww64076734929.png (420.64 KB, 下載次數(shù): 2)
下載附件
保存到相冊
oopqxrhyxww64076734929.png
4 小時前 上傳
/ w) O0 _, K* X* ?* a, }
圖1:具有可調(diào)相移器θ和φ的2x2可重構(gòu)MZI示意圖。
/ N. C& L' i$ e. I, K1 d& Y4 H* K! ^% S+ U" f
單個MZI的單一轉(zhuǎn)移矩陣由下式給出:7 I1 s; \2 Q# c' `: V
3potgicok5u64076735029.png (106.42 KB, 下載次數(shù): 0)
下載附件
保存到相冊
3potgicok5u64076735029.png
4 小時前 上傳
( o' b0 `6 u9 I/ W/ ?0 o1 Y: n% b# L3 J# j8 `) g/ _- r8 E3 G
通過在網(wǎng)格中級聯(lián)多個MZI,可以實現(xiàn)更大的單一變換。圖2所示的4x4處理器的Reck網(wǎng)格是一種三角形排列,可使用6個MZI實現(xiàn)任何4x4單一矩陣。
( f" X# W2 U8 y' K
/ M* e" n3 s9 X0 d0 B7 t" G
bbtbhgtws5d64076735129.png (84.74 KB, 下載次數(shù): 2)
下載附件
保存到相冊
bbtbhgtws5d64076735129.png
4 小時前 上傳
) l6 k' X, m+ v- b
圖2:由6個MZI組成的4x4 Reck網(wǎng)格光處理器示意圖。
: K' b) N7 k& b1 r7 F; m+ [. J8 C: o1 I9 B5 e
完整4x4 Reck處理器的單一矩陣由各個MZI矩陣的乘積給出:+ i& A+ e- D1 m. v- G
v5gyerqtnfy64076735230.png (38.98 KB, 下載次數(shù): 1)
下載附件
保存到相冊
v5gyerqtnfy64076735230.png
4 小時前 上傳
& N3 x7 S8 B- I6 Y0 m3 P9 B9 P6 A
7 L1 z% Q$ i3 {6 ~% U& @0 S( h- k光處理器編程) S! K1 F! J+ T1 i+ @4 I' g
要對光處理器進行編程以實現(xiàn)所需的單一變換,必須確定每個MZI所需的相移。這是通過分解過程完成的,該過程將目標(biāo)矩陣依次乘以逆MZI矩陣:
$ ^ t; t5 |. ]# M Y/ g
i2d2rtbjzyu64076735330.png (40.11 KB, 下載次數(shù): 1)
下載附件
保存到相冊
i2d2rtbjzyu64076735330.png
4 小時前 上傳
$ d8 z h; @0 R8 Q/ [2 h' V# P Z5 A
4 z9 l' V; j# |! l# {- c N% M" v通過在每個步驟中將非對角元素設(shè)置為零,可以提取所需的相移。圖3顯示了4x4 Reck網(wǎng)格在此分解過程中考慮MZI的順序。3 ?3 M) X% X1 i7 Y. w# _
x5rbbssmxsr64076735430.png (146.39 KB, 下載次數(shù): 1)
下載附件
保存到相冊
x5rbbssmxsr64076735430.png
4 小時前 上傳
" X8 s1 U, J, t) G& Q
圖3:4x4 Reck網(wǎng)格中用于編程的MZI分解順序。
/ H) V# k }, E& h" S" P1 U' ]3 e: r/ c6 u5 \. k
光神經(jīng)網(wǎng)絡(luò)$ X+ s& c# v. }4 C
ONN利用這些可編程光處理器來實現(xiàn)神經(jīng)網(wǎng)絡(luò)層中的線性變換。圖4顯示了單層ONN的結(jié)構(gòu)。
: E. _+ w1 @, E) q
1ioqdxfr24i64076735530.png (222.16 KB, 下載次數(shù): 1)
下載附件
保存到相冊
1ioqdxfr24i64076735530.png
4 小時前 上傳
! ~8 M) O3 ~; k& `5 x圖4:光學(xué)實現(xiàn)的單層神經(jīng)網(wǎng)絡(luò)示意圖。' P" @5 |2 ]) k1 R b
- H* ?6 `% E+ d7 J: C
光處理器實現(xiàn)權(quán)重矩陣W,而非線性激活函數(shù)通常以電子方式應(yīng)用。對于分類任務(wù),網(wǎng)絡(luò)接受多維輸入I0并為每個類別產(chǎn)生輸出概率。6 V' g+ G6 z' z1 x0 |* E$ c9 a
, F+ u$ L1 T- D" S$ b. I# g
網(wǎng)絡(luò)使用反向傳播進行訓(xùn)練,通過最小化均方誤差等損失函數(shù)來優(yōu)化權(quán)重矩陣:
* v) W: s) t: b2 j2 @! h& Q5 V( y
0jkfbzbd0vd64076735630.png (25.62 KB, 下載次數(shù): 2)
下載附件
保存到相冊
0jkfbzbd0vd64076735630.png
4 小時前 上傳
- n2 g, ]7 q ]7 G
% J$ H0 u' `% f- x( B. v
圖5顯示了4類數(shù)據(jù)集示例和4x4 ONN的訓(xùn)練過程。+ Y6 J* T) q. W3 T% ?+ [' g, B
v1o45em4svh64076735730.png (253.27 KB, 下載次數(shù): 3)
下載附件
保存到相冊
v1o45em4svh64076735730.png
4 小時前 上傳
' m+ t$ k) Y# G& f. C6 z Y圖5:(a)4類高斯數(shù)據(jù)集和(b)顯示4x4 ONN的損失和準(zhǔn)確度與訓(xùn)練周期的關(guān)系的訓(xùn)練過程。+ k8 O, y6 W. i0 U0 a8 u+ M
( i- @) H- a) H! o
Diamond網(wǎng)格架構(gòu)
# r3 g. O. ]2 |. NReck網(wǎng)格可以實現(xiàn)任何單一矩陣,但對制造誤差和光損耗很敏感。為解決這個問題,提出了一種替代的Diamond網(wǎng)格架構(gòu),如圖6所示的4x4處理器。
: r8 r( R$ q U% H; l% F7 F+ N
1qdmqy20vq364076735831.png (496.17 KB, 下載次數(shù): 4)
下載附件
保存到相冊
1qdmqy20vq364076735831.png
4 小時前 上傳
# J! ? Y, B) N& @& D/ _
圖6:具有9個MZI的4x4 Diamond網(wǎng)格光處理器示意圖。+ J1 D/ ]. e) n3 @
( q9 V- C; c* W6 [' {2 ]
與相同大小的Reck網(wǎng)格相比,Diamond網(wǎng)格使用額外的N(N-1)(N-2)/2個MZI。這提供了幾個優(yōu)點:更對稱的拓?fù)浣Y(jié)構(gòu),具有平衡的光路能夠?qū)⒉恍枰墓庵囟ㄏ虻筋~外的輸出優(yōu)化權(quán)重矩陣的額外自由度
! k! N) M0 N# x& W# S" M[/ol]2 Y# W9 q: g6 [ Z& E; ?0 T
4x4 Diamond處理器的單一矩陣由下式給出:
. _) y& ~+ U. v; G" b
1prnfvrpj5e64076735931.png (71.81 KB, 下載次數(shù): 0)
下載附件
保存到相冊
1prnfvrpj5e64076735931.png
4 小時前 上傳
4 m' V% S, N* R$ N: O
9 K9 y6 b$ ~' n1 y5 [- y/ @! L可以使用與Reck網(wǎng)格類似的分解過程對其進行編程,遵循圖7所示的順序。, A, d# D8 @5 T; ~* B- U5 m
zz1clakmcvm64076736031.png (236.55 KB, 下載次數(shù): 1)
下載附件
保存到相冊
zz1clakmcvm64076736031.png
4 小時前 上傳
' Y2 r/ l3 w+ W/ i; p
圖7:4x4 Diamond網(wǎng)格中用于編程的MZI分解順序。' L. t7 ~5 I6 \: P. ]
$ E7 T3 D! T5 T2 f* V+ S A
性能比較& T# B5 D' ^5 ]+ Q N+ y% M
為比較Reck和Diamond架構(gòu),分析了各種大小的單層ONN的實現(xiàn)性能。圖8顯示了4x4處理器的分類準(zhǔn)確度與相位誤差的關(guān)系。9 L+ D! T* h2 r3 k! o2 z K
rlujfeftugo64076736131.png (125.34 KB, 下載次數(shù): 1)
下載附件
保存到相冊
rlujfeftugo64076736131.png
4 小時前 上傳
" W6 k4 ~( P- a+ b圖8:4x4 Reck和Diamond ONN的分類準(zhǔn)確度與相位誤差的關(guān)系,每個MZI的損耗為(a)0 dB和(b)1 dB。, E: j( I4 p0 O5 N0 l8 o+ K) ]6 R
6 w- E" D* u. g( I5 [ p: z
Diamond網(wǎng)格對相位誤差表現(xiàn)出更好的魯棒性,尤其是在存在光損耗的情況下。這種優(yōu)勢在更大的網(wǎng)絡(luò)規(guī)模中變得更加明顯。8 ^% g) p1 X5 c/ f9 O2 A- o
! j0 p3 B7 M) a8 @
圖9比較了不同大小處理器(最大64x64)的準(zhǔn)確度與相位誤差的關(guān)系。' H' R" j m8 r+ R& e
p0oz0wwbgf364076736231.png (416.84 KB, 下載次數(shù): 1)
下載附件
保存到相冊
p0oz0wwbgf364076736231.png
4 小時前 上傳
/ \1 b: U5 ]- `0 M. |& M- B圖9:不同大。╝-d)Reck和(e-h)Diamond ONN的分類準(zhǔn)確度與相位誤差的關(guān)系。9 _- X4 F9 P& r2 N; J% r+ T; N
; G! l4 @: U, c. J" W
對于較大的網(wǎng)絡(luò),高精度區(qū)域縮小,但Diamond網(wǎng)格在所有尺寸上都保持更好的性能。5 a) t! ?0 \0 h0 V
) K6 T8 Z! P4 W6 }$ o+ O! P( w圖10將此分析擴展到包括每個MZI的光損耗影響。. l- x+ J1 i, e
kagrofhrnyk64076736332.png (391.07 KB, 下載次數(shù): 1)
下載附件
保存到相冊
kagrofhrnyk64076736332.png
4 小時前 上傳
" J7 G1 B' ^: \- W
圖10:不同大。╝-d)Reck和(e-h)Diamond ONN的分類準(zhǔn)確度與損耗和相位誤差的關(guān)系。
( b- M1 ?: O) e( L4 H! {' W
( }$ Z7 K9 Q7 Q+ ^' D' d再次,Diamond網(wǎng)格在所有網(wǎng)絡(luò)規(guī)模上表現(xiàn)出更優(yōu)的魯棒性。
" U5 T+ C; Z. N2 A3 n; n$ r f1 N C8 {* h D1 P6 h
最后,圖11總結(jié)了不同網(wǎng)絡(luò)規(guī)模的兩個關(guān)鍵性能指標(biāo) - 性能指標(biāo)(>75%準(zhǔn)確度的區(qū)域)和訓(xùn)練期間達到的最終損失值。
O" r) c2 t0 j2 d( ^6 `' K
ry5kcbvddlr64076736432.png (92.32 KB, 下載次數(shù): 2)
下載附件
保存到相冊
ry5kcbvddlr64076736432.png
4 小時前 上傳
6 e: e" R( x9 C) y# g1 P
圖11:不同大小的Reck和Diamond ONN的(a)性能指標(biāo)和(b)最終損失值比較。; l* ?3 r7 p5 ]. E. I
# |+ m1 l! ~2 d# f
Diamond網(wǎng)格在這兩個指標(biāo)上始終優(yōu)于Reck網(wǎng)格,優(yōu)勢隨網(wǎng)絡(luò)規(guī)模增大而增加。
7 @5 S+ t& R) q: V2 f9 V3 V0 F8 n, g9 v, D) k* K/ r8 r% Q
結(jié)論
. W/ q/ c0 N- R1 B7 o4 R$ O基于可編程MZI的光處理器為實現(xiàn)ONN和加速機器學(xué)習(xí)計算提供了有前途的平臺。Reck網(wǎng)格提供了可實現(xiàn)任何單一變換的緊湊設(shè)計,但Diamond網(wǎng)格提高了對制造誤差和光損耗的魯棒性。這使Diamond架構(gòu)更適合實際的大規(guī)模ONN。硅基光電子制造和架構(gòu)設(shè)計的持續(xù)進步可能會進一步提高這些光處理器的性能,有望實現(xiàn)新一類超快速、節(jié)能的機器學(xué)習(xí)加速器。
- T- m1 C9 E$ O" T* L8 f- q0 c# O4 M9 I) _
參考文獻
0 @4 O0 _$ G: h* T[1] M. Nikdast, S. Pasricha, G. Nicolescu, and A. Seyedi, Eds., Silicon Photonics for High-Performance Computing and Beyond, 1st ed. Boca Raton, FL, USA: CRC Press, 2021.6 K, T8 C& w4 X% D. x- o s$ X
END
2 r4 s( j8 ^( A6 z; [' N1 c U* N$ N/ v8 t( M! J" ^9 k
7 U0 W0 j" D& o; O& @. m軟件申請我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請體驗免費版PIC Studio軟件。無論是研究還是商業(yè)應(yīng)用,PIC Studio都可提升您的工作效能。
7 W! r8 G0 x1 P3 f: c2 ]9 {點擊左下角"閱讀原文"馬上申請7 P, c+ D8 d9 z1 t
& {6 A/ T5 }2 Q歡迎轉(zhuǎn)載
: l1 N& {/ ~; g8 m. c+ H
5 B! M/ O* A8 E1 r* K# {/ ?: w轉(zhuǎn)載請注明出處,請勿修改內(nèi)容和刪除作者信息!
( p2 K8 O9 O. ~& G3 S) ~( ^
' {' V: G8 o/ Z/ n: t
A% b/ g) M0 H# ]1 q
. ]( q8 {' s' g" ]! V
3xfam3wcrst64076736532.gif (16.04 KB, 下載次數(shù): 3)
下載附件
保存到相冊
3xfam3wcrst64076736532.gif
4 小時前 上傳
! O$ V1 O' B, n! B% c7 g _
0 J8 J9 q L9 ` r+ O; Y
關(guān)注我們
" P3 x8 l# B* n+ i" X$ v1 q& t
* U; R1 H. i) b6 f
0 ^ w: s& Q0 T, M1 g8 s
vodpuva2mj564076736632.png (31.33 KB, 下載次數(shù): 3)
下載附件
保存到相冊
vodpuva2mj564076736632.png
4 小時前 上傳
/ A. o- o5 [" A& C& S1 z5 j# T |
' B9 C# B! [- K- o# i' b1 S7 k9 v' l
u5is0s3sr5f64076736732.png (82.79 KB, 下載次數(shù): 1)
下載附件
保存到相冊
u5is0s3sr5f64076736732.png
4 小時前 上傳
: J- C: \- r2 z: ?' z8 d! A8 e: d, ~
| + l' Z2 ]% C% X3 d
txrhkjadsy064076736832.png (21.52 KB, 下載次數(shù): 1)
下載附件
保存到相冊
txrhkjadsy064076736832.png
4 小時前 上傳
/ w6 ?& F# y M% \% N9 u
|
+ m: V/ b/ J( h/ [* W' A% Z, d5 A* u. m5 E8 F
% _) T9 m7 Z9 X' s3 m
$ N3 l7 S% o- P7 E% x關(guān)于我們:3 Y4 S. X6 V4 k( ~0 h( B
深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專注于半導(dǎo)體芯片設(shè)計自動化(EDA)的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計和仿真軟件,提供成熟的設(shè)計解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對光電芯片、微機電系統(tǒng)、超透鏡的設(shè)計與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù),廣泛服務(wù)于光通訊、光計算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國內(nèi)外晶圓代工廠及硅光/MEMS中試線合作,推動特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展,致力于為客戶提供前沿技術(shù)與服務(wù)。& W" [) t/ d5 a. h$ T, R* A
5 ?2 {* l% ^' j6 f! y2 j8 `http://www.latitudeda.com/
! K+ H$ b. D2 | }! K4 d0 b0 y(點擊上方名片關(guān)注我們,發(fā)現(xiàn)更多精彩內(nèi)容) |
|