|
引言! m$ D3 f+ f# D1 g( T
在企業(yè)計(jì)算領(lǐng)域不斷演進(jìn)的背景下,IBM 通過其最新產(chǎn)品——IBM Telum II 處理器和 IBM Spyre 加速器芯片繼續(xù)推動(dòng)創(chuàng)新的邊界。這些尖端技術(shù)旨在滿足商業(yè)應(yīng)用中人工智能(AI)日益增長的需求,提供性能、效率和安全性。本文將幫助了解這些新技術(shù)的細(xì)節(jié)及其潛在影響,探討這些創(chuàng)新如何改變企業(yè)計(jì)算格局。2 `7 p8 `4 e) G/ n. Q5 _
' L8 n: C; L" ^+ n" D' a9 J8 n, b5 c, v& M4 }
IBM 大型機(jī)的力量0 ~0 l% z3 Y& w2 g! V( d7 }
在深入探討新硬件的具體細(xì)節(jié)之前,了解 IBM 大型機(jī)在當(dāng)今金融生態(tài)系統(tǒng)中的關(guān)鍵作用非常必要。根據(jù)最新研究,估計(jì) 70% 的全球交易(按價(jià)值計(jì)算)通過 IBM 大型機(jī)進(jìn)行處理。這一驚人的統(tǒng)計(jì)數(shù)據(jù)凸顯了大型機(jī)技術(shù)持續(xù)創(chuàng)新對支持全球經(jīng)濟(jì)的重要性。
8 x2 N/ P$ s8 h/ t* F' _
. b. ~9 d, G- z" b: f0 `" Q此外,IBM 大型機(jī)以可靠性著稱,可用率高達(dá) 99.999999%。這種可靠性對于需要持續(xù)運(yùn)行且無法承受系統(tǒng)故障的企業(yè)來說極為關(guān)鍵。9 ^0 M3 }/ f4 p0 P
u T1 B# g, {" n! b6 d% W
; ?6 K5 h! v6 R# |# ~7 P, ^
IBM Telum II 處理器簡介
& N5 h" l1 C' w/ ?2 Z6 I6 E& ?IBM Telum II 處理器代表了大型機(jī)計(jì)算技術(shù)的重大飛躍。設(shè)計(jì)用于支持每秒數(shù)百萬次交易的 AI 處理,這一能力在當(dāng)今數(shù)據(jù)驅(qū)動(dòng)的商業(yè)環(huán)境中變得越來越重要。
% U+ F+ G; d+ o# k$ ], h
4 p/ Z, m y2 |Telum II 的主要特點(diǎn)
' }# w) s2 K! F" m( _* k# ~* O% r1. 增強(qiáng)的中央計(jì)算復(fù)合體:Telum II 比前代產(chǎn)品有多項(xiàng)改進(jìn),包括:2 S) N/ L7 E! Z( [: m
分支預(yù)測增強(qiáng)重命名寄存器容量增加(從 128 增至 160)改進(jìn)的存儲(chǔ)回寫和地址轉(zhuǎn)換面積減少 20%功耗降低 15%
7 i2 S& V8 g' W/ ~$ X0 B9 \4 \7 ^; k. i
2. 擴(kuò)展的緩存系統(tǒng):處理器具有:2 V# \: I H% g5 w* ~% }
10 個(gè) L2 緩存,每個(gè) 36MB,訪問時(shí)間 3.6ns360MB 虛擬 L3 緩存,訪問時(shí)間 11.5ns2.8GB 虛擬 L4 緩存,訪問時(shí)間 48.5ns片外帶寬提高 30%Drawer 到 Drawer 的加密,增強(qiáng)安全性$ Y* i P# S3 L$ ]! y
1 K& Q" B) U* m3 F/ i% I3 W/ M/ |! c# P6 D% J3 m( P/ l, g
2zhuxnbcbyr64015583552.png (420.29 KB, 下載次數(shù): 4)
下載附件
保存到相冊
2zhuxnbcbyr64015583552.png
2024-9-18 13:47 上傳
6 v# L2 x# `, E0 `# l% U0 j
圖 1:說明 Telum II 中央計(jì)算復(fù)合體和 L2 緩存系統(tǒng)的改進(jìn),突出了處理能力和內(nèi)存訪問的顯著增強(qiáng)。
; g7 C# p& Q/ J+ \5 n3 H$ m
: J6 a8 q+ s7 n1 U5 f$ Y- z) m3. 先進(jìn)的制造工藝:Telum II 采用 5nm 技術(shù)制造,實(shí)現(xiàn):
- d7 M& y+ V; @1 X) K5 B每核心最高 5.5 GHz 時(shí)鐘速度插槽性能提升 20%處理器功耗降低 18%
0 Q- o3 ^ v4 R* _( B9 g: f5 |
/ ]$ i- k7 O* I# D, U2 K; S4. 創(chuàng)新的電壓控制:處理器incorporates一個(gè)復(fù)雜的電壓控制回路系統(tǒng),包括:2 C9 r7 Q2 \( x: e
細(xì)粒度電壓測量線路工作負(fù)載監(jiān)控功能與電源轉(zhuǎn)換子系統(tǒng)緊密耦合
, B/ @: h6 W: r' z) k9 Q: |- \) r/ k W
( ]9 p! b, V) n( f* V6 G" ~& d& m
jy5lxsi4qsu64015583652.png (120.12 KB, 下載次數(shù): 1)
下載附件
保存到相冊
jy5lxsi4qsu64015583652.png
2024-9-18 13:47 上傳
+ _4 [$ c$ M- w5 J
圖 2:展示Telum II 電壓控制回路實(shí)現(xiàn)的效率提升,說明在各種工作負(fù)載利用率下的較低功耗。
" D* j3 U* L! S, Z- R$ w6 V) z }& h9 @. m, `& |1 q/ Q; a. ?7 L
5. 片上數(shù)據(jù)處理單元(DPU):Telum II 具有專用 DPU 用于 I/O 加速,包括:
+ D8 F* y( _ x& J( n4 個(gè)處理集群每個(gè)集群 8 個(gè)定制微控制器與整體緩存系統(tǒng)的連貫連接專用 I/O 加速邏輯隊(duì)列管理器,用于高效的工作調(diào)度和傳輸2 r/ ^2 I6 b0 @% x: H
" \- u q6 `: Y9 V9 U; }, @" m5 J4 t( q. B
ftbclrxp5gi64015583753.png (351.46 KB, 下載次數(shù): 4)
下載附件
保存到相冊
ftbclrxp5gi64015583753.png
2024-9-18 13:47 上傳
/ p5 A0 e3 {" T! P( J5 E1 \% n
4jcjb31ye1c64015583853.png (96.48 KB, 下載次數(shù): 4)
下載附件
保存到相冊
4jcjb31ye1c64015583853.png
2024-9-18 13:47 上傳
) s5 t- L7 m8 ?$ p& F7 t: H
圖 3:概述片上數(shù)據(jù)處理單元(DPU)的結(jié)構(gòu),突出其組件和互連,用于高效的 I/O 處理。 G% o; V' U4 I
: ?9 z7 M% F0 }) O+ R6. 大規(guī)模擴(kuò)展 I/O 子系統(tǒng):Telum II 支持:. Z0 h# h/ P- f5 H
在一個(gè)連貫的 SMP 系統(tǒng)中最多 32 個(gè)處理器12 個(gè) I/O 擴(kuò)展 Drawer,每個(gè)有 16 個(gè) PCIe 插槽單個(gè)系統(tǒng)中總共最多 192 個(gè) PCIe 卡7 q' V) R9 C, u
: g' y7 F# k2 m) q9 H
Telum II 中的 AI 加速
: G: V9 U3 |4 gTelum II 最顯著的進(jìn)步之一是其增強(qiáng)的 AI 能力。處理器包含針對傳統(tǒng) AI 模型優(yōu)化的片上 AI 加速器,能夠支持各種企業(yè)用例:
" k. Y% G, T2 z清算結(jié)算合規(guī)檢查保險(xiǎn)理賠處理欺詐檢測
4 T3 T; |- j' u) B: V/ U" {$ P
7 X: t& ]/ a( T4 bTelum II 中的 AI 加速器提供:
7 J# B) ?) y$ A8 y3 j每芯片 24 TOPS(每秒萬億次運(yùn)算)每 Drawer 192 TOPS每系統(tǒng) 768 TOPS作為 CISC 指令集成,實(shí)現(xiàn)無縫操作支持 INT8 和 FP16 數(shù)據(jù)類型, d7 `5 [& c% }4 ~2 `! w4 y0 |
4 u) [- }$ Z+ ]7 W1 n) M" k1 \$ ~& ~; G# f: j/ ~$ N' B9 p. @
hqgvu5rpc1z64015583953.png (337.58 KB, 下載次數(shù): 3)
下載附件
保存到相冊
hqgvu5rpc1z64015583953.png
2024-9-18 13:47 上傳
' P3 o& [& G) w. ~- P
圖 4:展示Telum II 處理器的 AI 加速能力,突出其 TOPS 性能和系統(tǒng)集成。( l5 t+ f+ Z) F& y' v$ }' L, L7 o
IBM Spyre 加速器簡介
; |( b; d' u- |" I' J G- y( MTelum II 的片上 AI 加速器令人印象深刻,但 IBM 通過引入 IBM Spyre 加速器進(jìn)一步推進(jìn)了 AI 加速。這種專用芯片旨在處理更復(fù)雜的 AI 模型和工作負(fù)載,補(bǔ)充了 Telum II 的能力。( {+ k& p7 u1 F/ ? V
( ~6 u, P& c8 T* j; O1 q6 x+ E- T
IBM Spyre 加速器的主要特點(diǎn)
. x7 r) Z: f( Q1. 強(qiáng)大的性能:Spyre 加速器提供:' Y7 \ Y# ~0 A" ~$ q+ W' L4 O
超過 300 TOPS 的計(jì)算能力75W 功耗,采用 PCIe gen5 x16 適配器128GB LPDDR5 內(nèi)存
) ~& `4 |" F6 h: o8 l- G' @( M- ?# u7 m S& s8 f( m
2. 創(chuàng)新的核心設(shè)計(jì):加速器具有:
8 d+ }8 \5 M4 r32 個(gè)核心,每個(gè)配備 2MB 暫存器55%+ 有效 TOPS 利用率獨(dú)特的 "corelet" 結(jié)構(gòu),用于高效數(shù)據(jù)移動(dòng)/ c' ] ]7 S: W u# D0 |3 i8 @
+ N, e% U, ^5 a7 J9 P- G) \
1 O2 f/ [4 a3 l# {( g Z
op3scbrwkuf64015584053.png (490.66 KB, 下載次數(shù): 3)
下載附件
保存到相冊
op3scbrwkuf64015584053.png
2024-9-18 13:47 上傳
5 g/ I0 U0 y! H2 e
sgplf3bmnx464015584154.png (84.63 KB, 下載次數(shù): 2)
下載附件
保存到相冊
sgplf3bmnx464015584154.png
2024-9-18 13:47 上傳
, ]% C4 e9 K2 q9 Q! k
圖 5:說明 IBM Spyre 加速器的核心和 corelet 結(jié)構(gòu),展示其創(chuàng)新設(shè)計(jì),實(shí)現(xiàn)高效 AI 計(jì)算。
$ G5 {. X i3 `4 Q+ ^( u
' x6 Y7 h/ @$ i$ D, w! A' }3. 高速互連:Spyre 加速器利用:2 v2 {3 |) E5 @: ?7 q5 V
32B 雙向環(huán)連接核心200GB/s LPDDR5 連接到暫存器環(huán)128B 雙向環(huán)連接暫存器
) B0 }( F8 m t: [. z; b1 E9 O$ [3 [; f( L
4. 可擴(kuò)展性:Spyre 加速器設(shè)計(jì)用于集群部署:6 S2 b( ?- [4 e/ Q& h9 c
I/O Drawer 中的 8 張卡形成一個(gè)邏輯集群每個(gè)集群總共 1TB 內(nèi)存1.6TB/s 聚合內(nèi)存帶寬6 O2 h6 ^/ `0 D% p
6 I7 |* {8 @% ?/ G: q6 E5. 先進(jìn)制造:采用三星 5LPE 技術(shù)制造,Spyre 加速器擁有:1 b" b4 @; u6 c8 t8 }
260 億晶體管330 平方毫米芯片面積14 英里線路
; H, w* ?8 j1 y: l0 r* w# A( z' B. W( @2 k* ~
" h: y* R5 j2 ?# _+ s+ _
vpq3z3gl40c64015584254.png (204.75 KB, 下載次數(shù): 1)
下載附件
保存到相冊
vpq3z3gl40c64015584254.png
2024-9-18 13:47 上傳
' u" j% k2 Z3 E0 C2 |8 Z
圖 6:比較 Telum II 處理器和 Spyre 加速器的制造細(xì)節(jié),突出兩種芯片使用的先進(jìn)技術(shù)。
4 w" A/ Y) ^# v9 h$ l1 M- c F8 A7 w( A& p4 J( J3 T- e" o
AI 用例和應(yīng)用 h9 T) I6 r$ ~5 G0 b9 `% |. h
Telum II 處理器和 Spyre 加速器的結(jié)合為企業(yè)環(huán)境中的各種 AI 應(yīng)用提供了支持。這些技術(shù)支持 AI 的整體方法,允許企業(yè)利用傳統(tǒng)和更復(fù)雜的 AI 模型用于各種用例:增強(qiáng)欺詐檢測:通過結(jié)合 Telum II 的片上 AI 加速器和更強(qiáng)大的 Spyre 加速器,金融機(jī)構(gòu)可以實(shí)施復(fù)雜的欺詐檢測系統(tǒng),實(shí)時(shí)分析交易。生成式 AI:Spyre 加速器的高性能使其適合運(yùn)行大型語言模型和其他生成式 AI 應(yīng)用,為內(nèi)容創(chuàng)建和數(shù)據(jù)分析開創(chuàng)了新的可能性。代碼轉(zhuǎn)換和輔助:開發(fā)人員可以受益于 AI 驅(qū)動(dòng)的代碼建議、解釋和轉(zhuǎn)換工具,提高生產(chǎn)力和代碼質(zhì)量。系統(tǒng)管理:AI 助手可以通過提供智能建議來簡化 IT 操作,包括系統(tǒng)配置、故障排除和優(yōu)化。合規(guī)和風(fēng)險(xiǎn)管理:先進(jìn)的 AI 功能可以應(yīng)用于自動(dòng)化合規(guī)檢查,并增強(qiáng)各行業(yè)的風(fēng)險(xiǎn)評(píng)估流程。
. ~" H! j. C* k# ^, s; S' m& L[/ol]/ b' ~% l4 d5 T) z; |/ ]& C
, D( V! d+ m. q8 ?* f ~ \5 k
結(jié)論, Y. r+ W/ ` k: p* X
IBM Telum II 處理器和 IBM Spyre 加速器代表了企業(yè)計(jì)算和 AI 加速的重大進(jìn)步。通過將高性能傳統(tǒng)計(jì)算與專用 AI 硬件相結(jié)合,IBM 使企業(yè)能夠?qū)崟r(shí)應(yīng)對日益復(fù)雜的挑戰(zhàn)。
: t$ Y6 v; D& z' u5 V* H; g: g
& @6 }4 }3 L! Z# g這些創(chuàng)新將改變金融、保險(xiǎn)、軟件開發(fā)和 IT 運(yùn)營等多個(gè)行業(yè)。隨著 AI 在商業(yè)運(yùn)營中繼續(xù)發(fā)揮關(guān)鍵作用,以前所未有的速度處理海量數(shù)據(jù)并做出智能決策的能力將成為關(guān)鍵的競爭優(yōu)勢。2 ?1 `6 L1 X4 a% J# C/ d' D) ]
, y; w& b& U H1 u0 s0 A
IBM Spyre 加速器目前處于技術(shù)預(yù)覽階段,但對企業(yè) AI 格局的潛在影響巨大。隨著這些技術(shù)的成熟和廣泛應(yīng)用,可以期待看到一波新的 AI 驅(qū)動(dòng)的應(yīng)用和服務(wù),重塑企業(yè)在數(shù)字時(shí)代的運(yùn)營方式。! F$ f* Y. A/ h( _0 q7 U2 J
" b2 V, `4 s7 k/ W- g4 z6 d8 d" k4 y+ h' E
企業(yè)計(jì)算中 AI 的發(fā)展才剛剛開始,IBM 通過 Telum II 處理器和 Spyre 加速器為未來創(chuàng)造了新的可能性,在這個(gè)未來中,AI 將深度集成到業(yè)務(wù)運(yùn)營的每個(gè)方面,推動(dòng)效率、創(chuàng)新和增長。0 l4 v$ g7 p; E q# U: u
* z! A& K# A. U/ f& \8 a參考文獻(xiàn)4 Y6 S# L1 n2 c/ ]+ g
[1] C. Berry, "IBM Telum? II processor and IBM Spyre Accelerator chip for AI," presented at Hot Chips 2024, 2024.
. C: Q; l; z. F: j% e: C0 Y. u/ V( N) L6 W C
- END -/ X0 t- O1 |6 E: \1 K5 J: P0 ]
6 i9 H+ a( D' K) d/ d- j
軟件申請我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請?bào)w驗(yàn)免費(fèi)版PIC Studio軟件。無論是研究還是商業(yè)應(yīng)用,PIC Studio都可提升您的工作效能。
R( ]9 U4 p3 j& E點(diǎn)擊左下角"閱讀原文"馬上申請; K5 e$ m+ a8 }2 h$ p
3 E4 M. w9 Z6 P; x! m; ]" ]歡迎轉(zhuǎn)載4 W1 x- I, M# I: g1 K
- r0 M; @* O0 C1 x* H
轉(zhuǎn)載請注明出處,請勿修改內(nèi)容和刪除作者信息!
3 Q- h6 U; n5 |# h- T
8 h: C6 k, y- o/ @; \+ E
( B/ i6 o( P0 J8 N3 V0 L1 \& B i4 ?; p& Y* o
ffycofu5npf64015584354.gif (16.04 KB, 下載次數(shù): 2)
下載附件
保存到相冊
ffycofu5npf64015584354.gif
2024-9-18 13:47 上傳
- x; U, h' J* c8 \6 _* V; G' ]. e8 Q( w, o
關(guān)注我們
9 T. H/ k( d9 U$ J5 y3 p
! O, X% ?- @5 P$ h
/ V# @1 S" ~) u" ?- A4 d
245mryrzfkl64015584454.png (31.33 KB, 下載次數(shù): 2)
下載附件
保存到相冊
245mryrzfkl64015584454.png
2024-9-18 13:47 上傳
. g* N+ y+ p! F, Q3 v, ?+ q |
! u& F, S$ d* o+ X$ k: f
i004gsdbelk64015584554.png (82.79 KB, 下載次數(shù): 3)
下載附件
保存到相冊
i004gsdbelk64015584554.png
2024-9-18 13:47 上傳
* l) U: W3 w6 O& C, j/ i |
8 _" k8 n6 P/ P' S B
nufgbjrzhns64015584654.png (21.52 KB, 下載次數(shù): 2)
下載附件
保存到相冊
nufgbjrzhns64015584654.png
2024-9-18 13:47 上傳
7 d# S" s0 ~2 v |
) u0 @% ]# Z7 D" l1 f9 B* i
; q- O; k3 ]% S. K1 O+ A5 t& X4 x$ a) a
1 m( \5 T9 V# N2 D
關(guān)于我們:% E6 {7 C; T! K# W
深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專注于半導(dǎo)體芯片設(shè)計(jì)自動(dòng)化(EDA)的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計(jì)和仿真軟件,提供成熟的設(shè)計(jì)解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計(jì)與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù),廣泛服務(wù)于光通訊、光計(jì)算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國內(nèi)外晶圓代工廠及硅光/MEMS中試線合作,推動(dòng)特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展,致力于為客戶提供前沿技術(shù)與服務(wù)。
! l: U1 m- P1 q @2 g6 o
- o+ G0 l1 A$ \6 X: s, V# S5 nhttp://www.latitudeda.com/6 d; x6 U" U+ T. H( K
(點(diǎn)擊上方名片關(guān)注我們,發(fā)現(xiàn)更多精彩內(nèi)容) |
|