光學片上網絡的激光調制方案

逍遙設計自動化

引言
隨著硅晶體管縮放接近極限，研究人員正在探索新技術以繼續(xù)提高處理器性能和效率。有前途的方向是使用片上光學網絡（也稱為光學片上網絡或光學NoC）來替代傳統(tǒng)的電氣互連。與電氣網絡相比，光學NoC在帶寬、延遲和功耗方面具有潛在優(yōu)勢。然而，有效管理光學NoC的功耗帶來了新的挑戰(zhàn)[1]。
8 \4 }+ O( p) O
* j+ p2 m3 K0 F0 E# `, x6 H本文將探討用于最小化光學NoC靜態(tài)功耗的激光調制方案。我們將介紹基于網絡活動動態(tài)調制激光功率的關鍵概念、架構和預測技術。
! o- J/ b6 m+ l* H% G6 z; z

+ m  Z& c1 ?' i% A+ q背景
: P/ K$ N5 E. ~$ u8 S& ]! [( p( r光學NoC使用光來傳輸芯片上組件之間的數(shù)據�；�本構建模塊包括：
) F1 s1 M- [5 d. Y! k' v

激光器：光源，可以是片外或片上

調制器：將電信號轉換為光信號

波導：在芯片上引導光

光電探測器：將光信號轉換回電信號
9 A$ v$ J- ^' ?. [9 l/ k
光傳輸本身非常高效，但產生光的激光器消耗大量功率。一個關鍵挑戰(zhàn)是光子不能像電荷那樣容易存儲。這意味著激光器通常需要持續(xù)供電，即使不主動傳輸數(shù)據時也是如此。這種靜態(tài)功耗可能占光學NoC總功耗的80-90%。

" T; r. M  f0 L為解決這個問題，研究人員開發(fā)了激光調制方案，旨在根據預測的網絡活動動態(tài)調整激光功率。一般方法包括：

監(jiān)控網絡活動指標

預測未來活動

相應調整激光功率

重新配置網絡
1 N$ t1 l7 }  T% H1 O. @( o2 f
0 [  o7 t; G* B$ T讓我們看看為不同類型處理器提出的一些具體方案。
7 ?' A* ~% R  \, M2 O6 ]
多核CPU設計中的激光調制方案
# f' @5 H& t* @5 F! hProbe
0 V- X: m; a& N3 r) y9 K( @最早提出的激光調制方案之一是Probe。使用64核架構，核心分組為4x4塊。每個塊都有專用的片外激光器，可以使用單寫多讀（SWMR）總線廣播消息。

  C( g6 f/ r, h- ~) N7 FProbe根據鏈路利用率和緩沖區(qū)利用率指標預測未來活動。使用兩種類型的預測器：

用于低流量變化：過去和當前利用率的加權平均

用于高變化：由利用率水平索引的模式歷史表
[/ol]
+ j% A7 Y. @% I錦標賽預測器根據最近的準確性在兩者之間選擇。
5 i1 t5 `7 j. O3 b  C$ g
9 c! V" \# m/ j( t' `$ rColdBus
ColdBus采用不同的方法，基于L1緩存未命中預測活動。關鍵洞察是在共享內存系統(tǒng)中，大部分網絡流量來自L1未命中。

使用類似于分支預測器的基于PC的預測器來識別可能導致未命中的指令。然后，一個時期預測器估計這些未命中何時發(fā)生。

ColdBus還引入了一個"額外波導"，為需要的站點提供應急功率。

PShaRe
% e5 O3 h5 u; s  c5 tPShaRe在之前工作的基礎上有幾個關鍵創(chuàng)新：

一致性和非一致性流量的獨立網絡

基于神經網絡的非線性預測器

站點之間的功率共享

重用浪費的光功率進行熱調諧
; a+ w$ T# H" q: r! m; V, b% V) N$ V3 w[/ol]
5 l& R. E; g$ ?9 {5 V' o圖1顯示了整體架構：
; _' R3 v+ }0 S( O$ r, L
/ W; G, W( z% s1 V# U' E
圖1：PShaRe架構，顯示連接光學站點的功率和數(shù)據波導。
5 X5 S  \7 }6 \
5 V% Z6 o: N" r9 O# A* A神經網絡預測器使用14個性能計數(shù)器輸入，對每個站點在下一個時期的活動進行二元預測。
# X* h6 X4 I' J( a7 W7 l% k
BigBus
4 A1 y7 F9 k2 F: i  |/ Q對于非常大的核心數(shù)（500+），需要像BigBus這樣的設計。BigBus使用分層架構，將塊簇組成更大的單元。
! H( _# f. ]8 m) J
圖2說明了BigBus設計：


# s! D8 ^3 H0 @  V9 I" D圖2：BigBus架構，顯示由蛇形光鏈路連接的核心和緩存庫的分層組織。
8 Y$ @& @' q* G; C0 b) C' ~
BigBus使用兩階段預測過程：

每個站點根據等待時間和待處理事件決定是否增加/減少令牌

激光控制器將當前預測與歷史數(shù)據結合
% ]) P7 [' S+ A+ @3 h[/ol]
. k% Y" c, B/ C& }這允許在當前條件的響應性和穩(wěn)定性之間取得平衡。

& j' Z9 T3 p! I
多插槽系統(tǒng)（MULTI-SOCKET SYSTEMS）中的激光調制方案
/ e7 k2 d  H2 _9 s對于像服務器這樣的多芯片系統(tǒng)，像Nuplet這樣的設計將光網絡擴展到插槽之間。Nuplet同時使用片內和片間光網絡。

片間預測機制旨在確定要流通的仲裁令牌數(shù)量。它考慮：

發(fā)送到片間光學站（ICOS）的消息

ICOS隊列中的待處理事件
[/ol]
( d! E$ c7 F: c0 |) k3 d, o; T功率請求表（PRT）存儲歷史令牌計數(shù)。預測將PRT值與當前流量趨勢和隊列狀態(tài)結合。

+ g9 p6 `$ D3 R* B  Y# mGPU設計中的激光調制方案
由于GPU側重于內存帶寬而非延遲，因此帶來了獨特的挑戰(zhàn)。GPUOpt設計將光學NoC適配于GPU架構。

圖3顯示了GPUOpt的整體架構：
4 L- r* h  a  F* L+ x1 S+ x; B

圖3：GPU光學NoC的架構，顯示由光網絡連接的SM和LLC集群。
/ h2 H6 \2 ?. V8 Y' v6 j
GPUOpt對流式多處理器（SM）站點和最后級緩存（LLC）站點使用不同的預測機制：
1. SM站點使用基于以下因素的受限預測器（Restr_Pred）：

接收的消息

發(fā)送的消息

等待時間
0 c7 D4 V, q5 C
+ T" a0 k1 o3 U0 [! l2. LLC站點使用考慮以下因素的靈活預測器（Flex_Pred）：

接收的消息

發(fā)送的消息

待處理事件
' g* ~' l' Q" W" U' @4 r
4 Q+ |8 _1 f6 _7 k9 [激光控制器將這些預測結合起來，確定整體功率需求。
* y1 j5 V9 I. X: T
  j3 N/ @( d5 t& ^
關鍵概念和趨勢
雖然具體方案各不相同，但一些共同主題和最佳實踐浮現(xiàn)出來：
  v" M2 n4 K( g0 k" Y) R( K
1.將時間劃分為固定時期進行預測和重新配置
( M3 i) @, V' A2. 使用多個輸入指標：

網絡利用率

緩沖區(qū)占用率

緩存未命中率

指令類型

待處理事件
3. 將當前指標與歷史數(shù)據結合
* z  f& |$ V+ ]9 [# A) U4. 使用非線性預測函數(shù)（如神經網絡）捕捉復雜關系
5. 對不同流量類型進行單獨預測（如一致性與非一致性）
) \4 O& M! `: Y6. 分層設計以實現(xiàn)可擴展性
; d+ Y3 g1 b; {% J" @7. 盡可能重用未使用的光功率
) `. e! n3 W, C! j  u- ~3 q$ V' U8. 為特定架構經驗性地調整預測參數(shù)
6 c% f! O: {! y" V- X' Y' M) y
6 S% }* o7 s* v  L( c! ?/ P* l圖4說明了有效激光調制可能帶來的功率節(jié)�。�
, [! a5 x4 Q6 v2 q. E* Q, w* q$ w
: j+ z. ]& U# d. o
圖4：ideal、Probe和ColdBus方案在各種基準測試中的相對激光功耗。
4 y/ l* ~2 @! M8 W+ ~1 J: s% w

( H9 f* ~1 N5 w1 z! L+ }未來方向
9 w6 W- Q. b0 x" o' {0 @9 t隨著光學NoC從研究轉向實際實施，可以期待這些技術的進一步完善。方向包括：

用于更準確預測的機器學習技術

與應用層知識的集成

在運行時調整參數(shù)的自適應方案

考慮電氣和光網絡的整體優(yōu)化

針對新興工作負載（如AI加速）的專門化


% S% t9 z8 ]2 E2 L結論
有效的激光調制對實現(xiàn)光學片上網絡的潛在優(yōu)勢非常重要。通過準確預測網絡活動并相應調整激光功率，可以在保持性能的同時最小化靜態(tài)功耗。隨著處理器架構繼續(xù)發(fā)展，激光調制方案需要適應新的設計約束和流量模式。該領域的持續(xù)研究有望為未來計算系統(tǒng)解鎖新的能效水平。

7 ?  }4 s2 y( G7 S& b& w7 r
參考文獻
[1] M. Nikdast, S. Pasricha, G. Nicolescu, and A. Seyedi, Eds., Silicon Photonics for High-Performance Computing and Beyond, 1st ed. Boca Raton, FL, USA: CRC Press, 2021.

% v0 a4 n. \; f9 Z5 T- END -

" o' H  t" j% b4 v* s+ O& L( `( O0 B軟件申請我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請體驗免費版PIC Studio軟件。無論是研究還是商業(yè)應用，PIC Studio都可提升您的工作效能。
1 M, I) i+ C- [0 p& x7 R4 \點擊左下角"閱讀原文"馬上申請

歡迎轉載
' p4 ]5 ~, t& s# e" l# [% i
轉載請注明出處，請勿修改內容和刪除作者信息！



  O; G3 D- K6 [8 X! b  o
& I& _" J8 e# L5 A) ]# z
關注我們
: I: H7 [) P; O" S$ k: v  @5 R
% E9 \6 U! ]- c' c7 F

0 n% Q. |# t# b# z! |3 @) w + M6 C1 O) S  U% w

& y. a1 l" R) h

5 ^0 C# C' |* h( @6 `

                     


! h/ I+ h2 b2 I# X
關于我們：
: t* r* W: g7 @3 n- l4 ~! O深圳逍遙科技有限公司（Latitude Design Automation Inc.）是一家專注于半導體芯片設計自動化（EDA）的高科技軟件公司。我們自主開發(fā)特色工藝芯片設計和仿真軟件，提供成熟的設計解決方案如PIC Studio、MEMS Studio和Meta Studio，分別針對光電芯片、微機電系統(tǒng)、超透鏡的設計與仿真。我們提供特色工藝的半導體芯片集成電路版圖、IP和PDK工程服務，廣泛服務于光通訊、光計算、光量子通信和微納光子器件領域的頭部客戶。逍遙科技與國內外晶圓代工廠及硅光/MEMS中試線合作，推動特色工藝半導體產業(yè)鏈發(fā)展，致力于為客戶提供前沿技術與服務。
* }+ D$ ]. ^8 h3 T' q1 S
http://www.latitudeda.com/
（點擊上方名片關注我們，發(fā)現(xiàn)更多精彩內容）