|
引言3 h: a+ I$ L. G- K2 i$ b! Q
在企業(yè)計算領域不斷演進的背景下,IBM 通過其最新產(chǎn)品——IBM Telum II 處理器和 IBM Spyre 加速器芯片繼續(xù)推動創(chuàng)新的邊界。這些尖端技術旨在滿足商業(yè)應用中人工智能(AI)日益增長的需求,提供性能、效率和安全性。本文將幫助了解這些新技術的細節(jié)及其潛在影響,探討這些創(chuàng)新如何改變企業(yè)計算格局。, ?. `. h6 N" O) p$ X8 V5 d' h$ X
: r6 o/ C, ^' e6 U' R3 \, d: j7 r! ]5 o
IBM 大型機的力量
( C# l* F4 V U. h9 I0 X* G+ ]7 j1 X在深入探討新硬件的具體細節(jié)之前,了解 IBM 大型機在當今金融生態(tài)系統(tǒng)中的關鍵作用非常必要。根據(jù)最新研究,估計 70% 的全球交易(按價值計算)通過 IBM 大型機進行處理。這一驚人的統(tǒng)計數(shù)據(jù)凸顯了大型機技術持續(xù)創(chuàng)新對支持全球經(jīng)濟的重要性。
; V( h9 N) q$ f( @/ |7 m* `" }( B/ k7 [$ u4 R9 {- T0 {: O
此外,IBM 大型機以可靠性著稱,可用率高達 99.999999%。這種可靠性對于需要持續(xù)運行且無法承受系統(tǒng)故障的企業(yè)來說極為關鍵。1 u* t( I$ T- ^9 `
9 Y9 G% T K _: k0 a
2 H" E5 O: B0 _( n) FIBM Telum II 處理器簡介. V" D+ W% H; C5 z. O0 Z1 J+ q/ n
IBM Telum II 處理器代表了大型機計算技術的重大飛躍。設計用于支持每秒數(shù)百萬次交易的 AI 處理,這一能力在當今數(shù)據(jù)驅動的商業(yè)環(huán)境中變得越來越重要。$ [6 Y( g: M- i" p" B3 d6 p
, i$ s& ~+ R3 k* q& ^1 H, o$ YTelum II 的主要特點: D' J0 S9 ~9 r$ m
1. 增強的中央計算復合體:Telum II 比前代產(chǎn)品有多項改進,包括:+ f Y9 G" ^! @5 B+ L
分支預測增強重命名寄存器容量增加(從 128 增至 160)改進的存儲回寫和地址轉換面積減少 20%功耗降低 15%: h0 d# J* O/ I1 d/ J! k. S
, Z7 P- z. E: t3 H
2. 擴展的緩存系統(tǒng):處理器具有:
/ `' Z7 c1 A3 p8 p7 C: s10 個 L2 緩存,每個 36MB,訪問時間 3.6ns360MB 虛擬 L3 緩存,訪問時間 11.5ns2.8GB 虛擬 L4 緩存,訪問時間 48.5ns片外帶寬提高 30%Drawer 到 Drawer 的加密,增強安全性0 I3 h& J, ~6 M3 m2 P- {5 ]. M8 a
9 R, |1 y I$ n% c
1 I3 G7 l( L, S. R2 k/ e
goq2plvnkxz64021063812.png (420.29 KB, 下載次數(shù): 2)
下載附件
保存到相冊
goq2plvnkxz64021063812.png
2024-9-19 13:40 上傳
" F- o8 S& S) y( X/ I8 M; v
圖 1:說明 Telum II 中央計算復合體和 L2 緩存系統(tǒng)的改進,突出了處理能力和內(nèi)存訪問的顯著增強。4 {0 w! _1 y) i# m9 R0 ?) |- a
* x! n# t! x4 [/ K
3. 先進的制造工藝:Telum II 采用 5nm 技術制造,實現(xiàn):
% w1 O( Z j% R每核心最高 5.5 GHz 時鐘速度插槽性能提升 20%處理器功耗降低 18%
/ y; l/ s( ?! e9 N) d/ N+ L" D$ M9 E6 m+ G& V% W9 ]+ k
4. 創(chuàng)新的電壓控制:處理器incorporates一個復雜的電壓控制回路系統(tǒng),包括:+ w* ]5 _* Y8 h3 f) R. {7 F" q
細粒度電壓測量線路工作負載監(jiān)控功能與電源轉換子系統(tǒng)緊密耦合
- d- f- E' X5 {3 x X/ b0 K4 d. V) z/ ^
6 S/ M) |$ X; e
gv1tczjfwdy64021063912.png (120.12 KB, 下載次數(shù): 1)
下載附件
保存到相冊
gv1tczjfwdy64021063912.png
2024-9-19 13:40 上傳
: w" f$ G( x% X! ]$ E圖 2:展示Telum II 電壓控制回路實現(xiàn)的效率提升,說明在各種工作負載利用率下的較低功耗。6 {4 t/ ]6 S/ f
* p$ t+ w+ Z0 p5 z6 [' f. P& g
5. 片上數(shù)據(jù)處理單元(DPU):Telum II 具有專用 DPU 用于 I/O 加速,包括:
I0 w2 d. ~3 _3 S4 個處理集群每個集群 8 個定制微控制器與整體緩存系統(tǒng)的連貫連接專用 I/O 加速邏輯隊列管理器,用于高效的工作調(diào)度和傳輸
/ | G/ y2 r9 P( [# N! s9 x: E) o( Y$ C: m! a! @1 T
4 Z3 q, `2 P' G% j" k$ X" v
1j2q5pcl11x64021064012.png (351.46 KB, 下載次數(shù): 2)
下載附件
保存到相冊
1j2q5pcl11x64021064012.png
2024-9-19 13:40 上傳
" D! l5 c9 f6 H! A. v' c9 z- w
jfnopb2ksip64021064112.png (96.48 KB, 下載次數(shù): 3)
下載附件
保存到相冊
jfnopb2ksip64021064112.png
2024-9-19 13:40 上傳
' k: h! g+ A7 q i圖 3:概述片上數(shù)據(jù)處理單元(DPU)的結構,突出其組件和互連,用于高效的 I/O 處理。& H, y8 v2 b/ m: @, F
0 K# i# {% X, d; b6. 大規(guī)模擴展 I/O 子系統(tǒng):Telum II 支持:
$ ]; v) |. C' a+ C8 f在一個連貫的 SMP 系統(tǒng)中最多 32 個處理器12 個 I/O 擴展 Drawer,每個有 16 個 PCIe 插槽單個系統(tǒng)中總共最多 192 個 PCIe 卡) l) Q2 @! m4 h! W; g) \: L
7 T) |0 a8 o) y$ @Telum II 中的 AI 加速- a0 d4 \: U) Q2 v% m2 N
Telum II 最顯著的進步之一是其增強的 AI 能力。處理器包含針對傳統(tǒng) AI 模型優(yōu)化的片上 AI 加速器,能夠支持各種企業(yè)用例:% W8 m7 u+ @ y8 ?; V
清算結算合規(guī)檢查保險理賠處理欺詐檢測
\8 L$ _* b' N7 H4 x* Q9 l; c* T/ K' @
Telum II 中的 AI 加速器提供:
& X5 L. p5 g5 D! h8 e) i: n+ v每芯片 24 TOPS(每秒萬億次運算)每 Drawer 192 TOPS每系統(tǒng) 768 TOPS作為 CISC 指令集成,實現(xiàn)無縫操作支持 INT8 和 FP16 數(shù)據(jù)類型* k7 W" I6 v, ^. X( `* b
6 M3 ^9 r+ v/ C
& u& ]1 N0 {, G3 Z: e8 c
zf3p3bygeqp64021064212.png (337.58 KB, 下載次數(shù): 2)
下載附件
保存到相冊
zf3p3bygeqp64021064212.png
2024-9-19 13:40 上傳
' l3 o- a0 X3 E4 a
圖 4:展示Telum II 處理器的 AI 加速能力,突出其 TOPS 性能和系統(tǒng)集成。
/ Q" X6 |0 h& K/ G& f _IBM Spyre 加速器簡介
: |3 L+ @$ e* u3 n4 N9 q m" K0 ]Telum II 的片上 AI 加速器令人印象深刻,但 IBM 通過引入 IBM Spyre 加速器進一步推進了 AI 加速。這種專用芯片旨在處理更復雜的 AI 模型和工作負載,補充了 Telum II 的能力。. H# |9 M& W8 e
) B6 p, |+ C% k0 V" _! a
IBM Spyre 加速器的主要特點
/ C8 {. k. R" I+ Y1. 強大的性能:Spyre 加速器提供:0 Q! u6 g+ p# q% M
超過 300 TOPS 的計算能力75W 功耗,采用 PCIe gen5 x16 適配器128GB LPDDR5 內(nèi)存' ^- h5 T# R- _5 `
. ?' C- X' }* z
2. 創(chuàng)新的核心設計:加速器具有:; x8 ~1 S$ P$ X$ n
32 個核心,每個配備 2MB 暫存器55%+ 有效 TOPS 利用率獨特的 "corelet" 結構,用于高效數(shù)據(jù)移動
. O7 T* k- y" M8 ^+ G" x: i" o. j( i
: _, g/ u# O, T: S8 ]- g6 C( L/ o
iwefi5zziay64021064313.png (490.66 KB, 下載次數(shù): 3)
下載附件
保存到相冊
iwefi5zziay64021064313.png
2024-9-19 13:40 上傳
7 T2 H; ^4 J4 F' D+ T1 f! }
nkql55ovuay64021064413.png (84.63 KB, 下載次數(shù): 2)
下載附件
保存到相冊
nkql55ovuay64021064413.png
2024-9-19 13:40 上傳
5 ?2 e9 t3 M& D* ?* }% ]9 | A4 r
圖 5:說明 IBM Spyre 加速器的核心和 corelet 結構,展示其創(chuàng)新設計,實現(xiàn)高效 AI 計算。7 G* V" o9 g6 I+ p. ^
3 a: F% e9 |6 Y5 o8 b
3. 高速互連:Spyre 加速器利用:
" y* {9 H- l! N) d32B 雙向環(huán)連接核心200GB/s LPDDR5 連接到暫存器環(huán)128B 雙向環(huán)連接暫存器, K( M3 N6 W' O/ U; Y% h
2 ] c: H* Q$ ]9 d: \4. 可擴展性:Spyre 加速器設計用于集群部署:
8 g4 {. |3 O3 V0 }I/O Drawer 中的 8 張卡形成一個邏輯集群每個集群總共 1TB 內(nèi)存1.6TB/s 聚合內(nèi)存帶寬
; V5 m+ V& N: W5 Z2 @ ^" m- C6 e; a& x* O* |- K8 }
5. 先進制造:采用三星 5LPE 技術制造,Spyre 加速器擁有:
2 I' f: B, X! ]+ z260 億晶體管330 平方毫米芯片面積14 英里線路( W3 l/ O( d$ e
. p1 J' X/ z8 {$ u: B' @
# g# ?. q& B6 O
tx5yocgmuth64021064513.png (204.75 KB, 下載次數(shù): 3)
下載附件
保存到相冊
tx5yocgmuth64021064513.png
2024-9-19 13:40 上傳
2 q9 g/ W1 x* Z- ?% ^$ V+ [; z
圖 6:比較 Telum II 處理器和 Spyre 加速器的制造細節(jié),突出兩種芯片使用的先進技術。) O" N$ m. z2 g2 m# I. ^# {( v8 M% g6 y
- L& R: k4 E: p3 ~: }/ ?8 {
AI 用例和應用7 f8 }* m7 m4 n( q/ {1 s" C6 y
Telum II 處理器和 Spyre 加速器的結合為企業(yè)環(huán)境中的各種 AI 應用提供了支持。這些技術支持 AI 的整體方法,允許企業(yè)利用傳統(tǒng)和更復雜的 AI 模型用于各種用例:增強欺詐檢測:通過結合 Telum II 的片上 AI 加速器和更強大的 Spyre 加速器,金融機構可以實施復雜的欺詐檢測系統(tǒng),實時分析交易。生成式 AI:Spyre 加速器的高性能使其適合運行大型語言模型和其他生成式 AI 應用,為內(nèi)容創(chuàng)建和數(shù)據(jù)分析開創(chuàng)了新的可能性。代碼轉換和輔助:開發(fā)人員可以受益于 AI 驅動的代碼建議、解釋和轉換工具,提高生產(chǎn)力和代碼質量。系統(tǒng)管理:AI 助手可以通過提供智能建議來簡化 IT 操作,包括系統(tǒng)配置、故障排除和優(yōu)化。合規(guī)和風險管理:先進的 AI 功能可以應用于自動化合規(guī)檢查,并增強各行業(yè)的風險評估流程。
% c' `2 d$ D2 |- B) w% B% A[/ol]
6 ^4 }7 Z5 C( F. f
& B h/ J. Y6 q, z+ B$ h7 \1 i6 i結論, B9 f( a8 G6 f! j& a" r* {5 T9 E
IBM Telum II 處理器和 IBM Spyre 加速器代表了企業(yè)計算和 AI 加速的重大進步。通過將高性能傳統(tǒng)計算與專用 AI 硬件相結合,IBM 使企業(yè)能夠實時應對日益復雜的挑戰(zhàn)。
! ^$ ^+ K4 a. `# Y. Z; ~# c& A0 ^) ? N% j
這些創(chuàng)新將改變金融、保險、軟件開發(fā)和 IT 運營等多個行業(yè)。隨著 AI 在商業(yè)運營中繼續(xù)發(fā)揮關鍵作用,以前所未有的速度處理海量數(shù)據(jù)并做出智能決策的能力將成為關鍵的競爭優(yōu)勢。- t9 z o, o/ E7 R; L% v4 G
0 [ x7 s% [6 a0 gIBM Spyre 加速器目前處于技術預覽階段,但對企業(yè) AI 格局的潛在影響巨大。隨著這些技術的成熟和廣泛應用,可以期待看到一波新的 AI 驅動的應用和服務,重塑企業(yè)在數(shù)字時代的運營方式。
. [% i1 N! n$ i, Q+ R2 x1 |9 k; F; ]4 v: d# o- l
企業(yè)計算中 AI 的發(fā)展才剛剛開始,IBM 通過 Telum II 處理器和 Spyre 加速器為未來創(chuàng)造了新的可能性,在這個未來中,AI 將深度集成到業(yè)務運營的每個方面,推動效率、創(chuàng)新和增長。! @, t/ G; M7 L9 T
9 m2 d8 }3 w, _- f: p# d
參考文獻) n) i% b. D3 T) q9 g" D
[1] C. Berry, "IBM Telum? II processor and IBM Spyre Accelerator chip for AI," presented at Hot Chips 2024, 2024.. v+ [6 C! [2 B5 `5 n5 K; U
* M% Y+ `. x0 {0 j% B# }- END -
2 p* F% W: W) ]3 g! Y: w7 T- A6 A2 A* m5 H7 E& c& U
軟件申請我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請體驗免費版PIC Studio軟件。無論是研究還是商業(yè)應用,PIC Studio都可提升您的工作效能。
8 l) u( u$ F2 g: S; W% X7 c1 e點擊左下角"閱讀原文"馬上申請
- D3 ^; R# i6 Z5 K* Z7 Z4 L& ?6 z
歡迎轉載
& t- T# A6 o f0 ^4 H& \
( A0 e) A0 i% C9 g1 U; Q轉載請注明出處,請勿修改內(nèi)容和刪除作者信息!
& E* y6 P8 `. j: ^/ N
$ N! p' C6 ?% L& T* [ o5 P0 x2 U+ C/ a
: p# v6 N- s! W; u! ]6 _6 v
ucgnbqslb1m64021064613.gif (16.04 KB, 下載次數(shù): 2)
下載附件
保存到相冊
ucgnbqslb1m64021064613.gif
2024-9-19 13:40 上傳
. i' u; I4 E) a/ q* K; A+ j3 e( U5 x( V4 y5 g9 D, c6 y/ W& d
關注我們# P' v! s( D- Z6 u9 \$ q
$ ?" r; k) H" X) ]
+ ?& ^! ?5 X) |! B( e
ximkz0kbms064021064713.png (31.33 KB, 下載次數(shù): 2)
下載附件
保存到相冊
ximkz0kbms064021064713.png
2024-9-19 13:40 上傳
5 M( A6 E2 |" `/ L1 y/ y
|
+ w! Z8 K, A# o8 ~: j3 F
xlgudxgrdfm64021064813.png (82.79 KB, 下載次數(shù): 3)
下載附件
保存到相冊
xlgudxgrdfm64021064813.png
2024-9-19 13:40 上傳
) y3 i, K5 m o3 P( r5 y
|
7 x4 v0 i- a) E$ `- a
51ku2atbfxv64021064913.png (21.52 KB, 下載次數(shù): 4)
下載附件
保存到相冊
51ku2atbfxv64021064913.png
2024-9-19 13:40 上傳
9 B+ v# s: x( R6 O; A+ b* i |
3 S( v4 ^+ N4 B1 X" c5 {* P
, a/ }! L3 g. \6 v$ E8 ^2 E& L
: r4 k5 Z0 R q- h; P
* }: |* @5 S w# ]7 h7 M" m; S關于我們:+ j' P# Q* [0 f: E) b
深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專注于半導體芯片設計自動化(EDA)的高科技軟件公司。我們自主開發(fā)特色工藝芯片設計和仿真軟件,提供成熟的設計解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對光電芯片、微機電系統(tǒng)、超透鏡的設計與仿真。我們提供特色工藝的半導體芯片集成電路版圖、IP和PDK工程服務,廣泛服務于光通訊、光計算、光量子通信和微納光子器件領域的頭部客戶。逍遙科技與國內(nèi)外晶圓代工廠及硅光/MEMS中試線合作,推動特色工藝半導體產(chǎn)業(yè)鏈發(fā)展,致力于為客戶提供前沿技術與服務。" y8 ]6 |3 L* Q! }' C
/ x0 J" B" R) C1 c' v h0 x/ ?
http://www.latitudeda.com/, H+ l; y* b: J) Y
(點擊上方名片關注我們,發(fā)現(xiàn)更多精彩內(nèi)容) |
|