|
引言" W" [5 {4 s# P3 d* c
在企業(yè)計(jì)算領(lǐng)域不斷演進(jìn)的背景下,IBM 通過(guò)其最新產(chǎn)品——IBM Telum II 處理器和 IBM Spyre 加速器芯片繼續(xù)推動(dòng)創(chuàng)新的邊界。這些尖端技術(shù)旨在滿足商業(yè)應(yīng)用中人工智能(AI)日益增長(zhǎng)的需求,提供性能、效率和安全性。本文將幫助了解這些新技術(shù)的細(xì)節(jié)及其潛在影響,探討這些創(chuàng)新如何改變企業(yè)計(jì)算格局。9 s0 \: ^# y! {1 H2 F+ M1 b7 }5 T
y! _7 M- I9 }5 R) r
/ P* C$ V0 `; c+ X* T) E; vIBM 大型機(jī)的力量5 w3 b: N- M! k+ y: N4 D/ Z! y6 D
在深入探討新硬件的具體細(xì)節(jié)之前,了解 IBM 大型機(jī)在當(dāng)今金融生態(tài)系統(tǒng)中的關(guān)鍵作用非常必要。根據(jù)最新研究,估計(jì) 70% 的全球交易(按價(jià)值計(jì)算)通過(guò) IBM 大型機(jī)進(jìn)行處理。這一驚人的統(tǒng)計(jì)數(shù)據(jù)凸顯了大型機(jī)技術(shù)持續(xù)創(chuàng)新對(duì)支持全球經(jīng)濟(jì)的重要性。
4 R/ w h; I- E
' v' P8 C( P* {3 p; }# x9 {此外,IBM 大型機(jī)以可靠性著稱,可用率高達(dá) 99.999999%。這種可靠性對(duì)于需要持續(xù)運(yùn)行且無(wú)法承受系統(tǒng)故障的企業(yè)來(lái)說(shuō)極為關(guān)鍵。! h. g' _/ {- M" ~+ f% Q9 }
6 _, l4 {3 T) D/ W9 G9 B& p6 P1 m5 i% Z6 X% x$ k$ _
IBM Telum II 處理器簡(jiǎn)介, g- e, }. F8 u4 S( Z0 {6 h
IBM Telum II 處理器代表了大型機(jī)計(jì)算技術(shù)的重大飛躍。設(shè)計(jì)用于支持每秒數(shù)百萬(wàn)次交易的 AI 處理,這一能力在當(dāng)今數(shù)據(jù)驅(qū)動(dòng)的商業(yè)環(huán)境中變得越來(lái)越重要。5 i8 q3 P2 T; _/ y3 L/ a5 |
1 F+ ?& L+ `2 w- T: m; i4 s5 c+ q
Telum II 的主要特點(diǎn)! E k0 X/ ?& c( ^- g' q
1. 增強(qiáng)的中央計(jì)算復(fù)合體:Telum II 比前代產(chǎn)品有多項(xiàng)改進(jìn),包括:
' R; M" f2 Q- _& Y& S分支預(yù)測(cè)增強(qiáng)重命名寄存器容量增加(從 128 增至 160)改進(jìn)的存儲(chǔ)回寫和地址轉(zhuǎn)換面積減少 20%功耗降低 15%# @ ^# }$ c- o( R2 Q& N t5 y
" U0 j r1 Y" t& m+ k0 X5 L! \2. 擴(kuò)展的緩存系統(tǒng):處理器具有:
, d* V3 W, `$ i$ X10 個(gè) L2 緩存,每個(gè) 36MB,訪問(wèn)時(shí)間 3.6ns360MB 虛擬 L3 緩存,訪問(wèn)時(shí)間 11.5ns2.8GB 虛擬 L4 緩存,訪問(wèn)時(shí)間 48.5ns片外帶寬提高 30%Drawer 到 Drawer 的加密,增強(qiáng)安全性
0 S |# y3 b) N5 ?
$ w# Q8 t. c/ c0 ^& B2 U
9 ]* \- P. L# s2 R M
goq2plvnkxz64021063812.png (420.29 KB, 下載次數(shù): 2)
下載附件
保存到相冊(cè)
goq2plvnkxz64021063812.png
2024-9-19 13:40 上傳
1 G6 p. N& C0 N) y: |圖 1:說(shuō)明 Telum II 中央計(jì)算復(fù)合體和 L2 緩存系統(tǒng)的改進(jìn),突出了處理能力和內(nèi)存訪問(wèn)的顯著增強(qiáng)。
" b6 a( \. ^4 ^! b1 v- y# H; ~+ p' @/ L( m1 m. [9 `, ?
3. 先進(jìn)的制造工藝:Telum II 采用 5nm 技術(shù)制造,實(shí)現(xiàn):
9 M% g+ o0 U5 r" ], p每核心最高 5.5 GHz 時(shí)鐘速度插槽性能提升 20%處理器功耗降低 18%
3 X" P/ J) t2 [6 f) c: R2 k \2 X* m/ p2 A9 D/ D! n: H/ v: w! {. Z; y; M
4. 創(chuàng)新的電壓控制:處理器incorporates一個(gè)復(fù)雜的電壓控制回路系統(tǒng),包括:
, X$ ?1 {/ O3 y& k4 C細(xì)粒度電壓測(cè)量線路工作負(fù)載監(jiān)控功能與電源轉(zhuǎn)換子系統(tǒng)緊密耦合
, D# T- `/ i U( l8 W$ L s! D
$ R3 \5 _: M8 x' V3 W K
( Z+ x( c: w5 q2 R8 @- N
gv1tczjfwdy64021063912.png (120.12 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
gv1tczjfwdy64021063912.png
2024-9-19 13:40 上傳
- B: }& s' k3 n2 |0 ` _3 U圖 2:展示Telum II 電壓控制回路實(shí)現(xiàn)的效率提升,說(shuō)明在各種工作負(fù)載利用率下的較低功耗。1 H+ X# ]% o& {6 q% V* o. _+ v
2 X e9 T3 s$ E: u: t5. 片上數(shù)據(jù)處理單元(DPU):Telum II 具有專用 DPU 用于 I/O 加速,包括:
N B+ T, u7 O* t& @4 個(gè)處理集群每個(gè)集群 8 個(gè)定制微控制器與整體緩存系統(tǒng)的連貫連接專用 I/O 加速邏輯隊(duì)列管理器,用于高效的工作調(diào)度和傳輸
8 T/ J; @( E! G4 E* y6 [+ g0 B6 m* B2 b8 K3 @
" Q% D2 w0 f; ^. V: e1 ^; P6 @# c
1j2q5pcl11x64021064012.png (351.46 KB, 下載次數(shù): 2)
下載附件
保存到相冊(cè)
1j2q5pcl11x64021064012.png
2024-9-19 13:40 上傳
3 t& e2 \1 ]6 j( ?' x# S" B @; M
jfnopb2ksip64021064112.png (96.48 KB, 下載次數(shù): 3)
下載附件
保存到相冊(cè)
jfnopb2ksip64021064112.png
2024-9-19 13:40 上傳
6 Q/ ^: G t* r r
圖 3:概述片上數(shù)據(jù)處理單元(DPU)的結(jié)構(gòu),突出其組件和互連,用于高效的 I/O 處理。. ]+ Y3 y) h8 u$ _
5 j8 L, l0 \6 \
6. 大規(guī)模擴(kuò)展 I/O 子系統(tǒng):Telum II 支持:5 T% v5 C. e j, K
在一個(gè)連貫的 SMP 系統(tǒng)中最多 32 個(gè)處理器12 個(gè) I/O 擴(kuò)展 Drawer,每個(gè)有 16 個(gè) PCIe 插槽單個(gè)系統(tǒng)中總共最多 192 個(gè) PCIe 卡
$ |0 K! I# A# @8 R' F+ G6 J/ ?. j9 D5 J
Telum II 中的 AI 加速6 [$ P% \5 H- x2 w/ H
Telum II 最顯著的進(jìn)步之一是其增強(qiáng)的 AI 能力。處理器包含針對(duì)傳統(tǒng) AI 模型優(yōu)化的片上 AI 加速器,能夠支持各種企業(yè)用例:
6 ?1 a S/ L/ r5 }清算結(jié)算合規(guī)檢查保險(xiǎn)理賠處理欺詐檢測(cè)
g6 o. F- H. ~, [& T
0 s# [+ \. y* [* N5 w5 u) JTelum II 中的 AI 加速器提供:
$ m$ ]' L+ L8 X/ }0 Y. }8 S每芯片 24 TOPS(每秒萬(wàn)億次運(yùn)算)每 Drawer 192 TOPS每系統(tǒng) 768 TOPS作為 CISC 指令集成,實(shí)現(xiàn)無(wú)縫操作支持 INT8 和 FP16 數(shù)據(jù)類型
! y7 I4 O& C3 v) F
( E" O( `* {( o. {6 ?& o! Z1 X1 J8 g; }, h; c/ X H3 G
zf3p3bygeqp64021064212.png (337.58 KB, 下載次數(shù): 2)
下載附件
保存到相冊(cè)
zf3p3bygeqp64021064212.png
2024-9-19 13:40 上傳
K/ @! x# X+ v1 T( o
圖 4:展示Telum II 處理器的 AI 加速能力,突出其 TOPS 性能和系統(tǒng)集成。+ p6 N7 q5 c- a& f
IBM Spyre 加速器簡(jiǎn)介
4 p% p! a5 j- t6 ^9 z) b" s% OTelum II 的片上 AI 加速器令人印象深刻,但 IBM 通過(guò)引入 IBM Spyre 加速器進(jìn)一步推進(jìn)了 AI 加速。這種專用芯片旨在處理更復(fù)雜的 AI 模型和工作負(fù)載,補(bǔ)充了 Telum II 的能力。
, _5 g1 @1 k5 G$ U& G4 d
' V% ~# p* z: IIBM Spyre 加速器的主要特點(diǎn)% d( y+ j* O7 Z# f& g) |
1. 強(qiáng)大的性能:Spyre 加速器提供:+ a# }7 ` J& ~2 u/ w I
超過(guò) 300 TOPS 的計(jì)算能力75W 功耗,采用 PCIe gen5 x16 適配器128GB LPDDR5 內(nèi)存
) ]! @* A3 t& ?0 R; r* {" A u5 ^5 w D1 ?2 C! l1 P
2. 創(chuàng)新的核心設(shè)計(jì):加速器具有:
8 S* C' e B' x* \7 V0 j7 _ M32 個(gè)核心,每個(gè)配備 2MB 暫存器55%+ 有效 TOPS 利用率獨(dú)特的 "corelet" 結(jié)構(gòu),用于高效數(shù)據(jù)移動(dòng)
/ K1 E$ i' }4 L' \. @& ~/ z
( I" e2 w1 M8 A, q1 _( l7 m$ l' I% M1 ]# {
iwefi5zziay64021064313.png (490.66 KB, 下載次數(shù): 3)
下載附件
保存到相冊(cè)
iwefi5zziay64021064313.png
2024-9-19 13:40 上傳
7 H' x1 q. v' O) G; a0 f
nkql55ovuay64021064413.png (84.63 KB, 下載次數(shù): 2)
下載附件
保存到相冊(cè)
nkql55ovuay64021064413.png
2024-9-19 13:40 上傳
( V9 y6 f$ M) U2 L圖 5:說(shuō)明 IBM Spyre 加速器的核心和 corelet 結(jié)構(gòu),展示其創(chuàng)新設(shè)計(jì),實(shí)現(xiàn)高效 AI 計(jì)算。
' Z8 z T5 n% _5 `
; d0 H4 ]# C" \6 @4 ], [3. 高速互連:Spyre 加速器利用:
! y' Q! `, Q, Y1 {- {32B 雙向環(huán)連接核心200GB/s LPDDR5 連接到暫存器環(huán)128B 雙向環(huán)連接暫存器( V# A) { I. R5 \ K: G
* r$ \6 Y1 y* U# a4 P, L' H6 ?/ w4. 可擴(kuò)展性:Spyre 加速器設(shè)計(jì)用于集群部署:
/ `7 H) ? ]9 `0 ~* h0 h7 P j5 R+ BI/O Drawer 中的 8 張卡形成一個(gè)邏輯集群每個(gè)集群總共 1TB 內(nèi)存1.6TB/s 聚合內(nèi)存帶寬* x S& v& N" x. h; [3 @; G. u4 |: b- a
) M: D! p v& [ B r, S* x5. 先進(jìn)制造:采用三星 5LPE 技術(shù)制造,Spyre 加速器擁有: Q8 v: n$ t! g- y
260 億晶體管330 平方毫米芯片面積14 英里線路% q; M1 x+ D% C3 b$ t& Q
7 z+ x; i7 O; D
) U* o) E' c4 e, d
tx5yocgmuth64021064513.png (204.75 KB, 下載次數(shù): 3)
下載附件
保存到相冊(cè)
tx5yocgmuth64021064513.png
2024-9-19 13:40 上傳
5 s% ? g. Z5 c. m$ o6 R
圖 6:比較 Telum II 處理器和 Spyre 加速器的制造細(xì)節(jié),突出兩種芯片使用的先進(jìn)技術(shù)。
j( J& Q6 r9 w
; y( |& s2 n& zAI 用例和應(yīng)用& e" q" b" o, o8 [, ]: f0 F
Telum II 處理器和 Spyre 加速器的結(jié)合為企業(yè)環(huán)境中的各種 AI 應(yīng)用提供了支持。這些技術(shù)支持 AI 的整體方法,允許企業(yè)利用傳統(tǒng)和更復(fù)雜的 AI 模型用于各種用例:增強(qiáng)欺詐檢測(cè):通過(guò)結(jié)合 Telum II 的片上 AI 加速器和更強(qiáng)大的 Spyre 加速器,金融機(jī)構(gòu)可以實(shí)施復(fù)雜的欺詐檢測(cè)系統(tǒng),實(shí)時(shí)分析交易。生成式 AI:Spyre 加速器的高性能使其適合運(yùn)行大型語(yǔ)言模型和其他生成式 AI 應(yīng)用,為內(nèi)容創(chuàng)建和數(shù)據(jù)分析開創(chuàng)了新的可能性。代碼轉(zhuǎn)換和輔助:開發(fā)人員可以受益于 AI 驅(qū)動(dòng)的代碼建議、解釋和轉(zhuǎn)換工具,提高生產(chǎn)力和代碼質(zhì)量。系統(tǒng)管理:AI 助手可以通過(guò)提供智能建議來(lái)簡(jiǎn)化 IT 操作,包括系統(tǒng)配置、故障排除和優(yōu)化。合規(guī)和風(fēng)險(xiǎn)管理:先進(jìn)的 AI 功能可以應(yīng)用于自動(dòng)化合規(guī)檢查,并增強(qiáng)各行業(yè)的風(fēng)險(xiǎn)評(píng)估流程。
" i) I. d- q. v1 R2 l[/ol]
+ J' ?6 P" B- Y5 y/ B' z( w1 P& V
+ M" y: ?' S, [# @+ v) a結(jié)論
# `: j0 l. Z% W- G/ y9 |IBM Telum II 處理器和 IBM Spyre 加速器代表了企業(yè)計(jì)算和 AI 加速的重大進(jìn)步。通過(guò)將高性能傳統(tǒng)計(jì)算與專用 AI 硬件相結(jié)合,IBM 使企業(yè)能夠?qū)崟r(shí)應(yīng)對(duì)日益復(fù)雜的挑戰(zhàn)。
+ R: s9 O' o$ c4 V3 c7 q$ h0 d; Y6 \0 l% k: H3 m5 @
這些創(chuàng)新將改變金融、保險(xiǎn)、軟件開發(fā)和 IT 運(yùn)營(yíng)等多個(gè)行業(yè)。隨著 AI 在商業(yè)運(yùn)營(yíng)中繼續(xù)發(fā)揮關(guān)鍵作用,以前所未有的速度處理海量數(shù)據(jù)并做出智能決策的能力將成為關(guān)鍵的競(jìng)爭(zhēng)優(yōu)勢(shì)。; T4 j2 F: e" _+ Y% @7 }
8 y5 Y- D9 j; cIBM Spyre 加速器目前處于技術(shù)預(yù)覽階段,但對(duì)企業(yè) AI 格局的潛在影響巨大。隨著這些技術(shù)的成熟和廣泛應(yīng)用,可以期待看到一波新的 AI 驅(qū)動(dòng)的應(yīng)用和服務(wù),重塑企業(yè)在數(shù)字時(shí)代的運(yùn)營(yíng)方式。
. F( c/ C. C3 f2 \5 i/ f
: U- c; E5 U3 v企業(yè)計(jì)算中 AI 的發(fā)展才剛剛開始,IBM 通過(guò) Telum II 處理器和 Spyre 加速器為未來(lái)創(chuàng)造了新的可能性,在這個(gè)未來(lái)中,AI 將深度集成到業(yè)務(wù)運(yùn)營(yíng)的每個(gè)方面,推動(dòng)效率、創(chuàng)新和增長(zhǎng)。
* I9 f: T, T' J+ r, ^! v
( F9 t, W1 t2 K參考文獻(xiàn): l- o4 m$ z3 A3 p' {. p8 U
[1] C. Berry, "IBM Telum? II processor and IBM Spyre Accelerator chip for AI," presented at Hot Chips 2024, 2024.
" D% x4 Y2 |- ^% ?! [* R3 {5 w: t5 W( U6 Z
- END -
+ R: g$ p' L9 T# D: R
* a7 x, I% {, m$ p" q G! |0 B/ C. g軟件申請(qǐng)我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請(qǐng)?bào)w驗(yàn)免費(fèi)版PIC Studio軟件。無(wú)論是研究還是商業(yè)應(yīng)用,PIC Studio都可提升您的工作效能。+ @; A; H: [9 G+ T
點(diǎn)擊左下角"閱讀原文"馬上申請(qǐng)0 q7 c1 s7 B$ u/ U" ?
+ _3 K7 i2 n3 {; l" R
歡迎轉(zhuǎn)載
: F5 g* P! [9 N3 a* S" ~6 D+ _1 x. k2 Y. g" p
轉(zhuǎn)載請(qǐng)注明出處,請(qǐng)勿修改內(nèi)容和刪除作者信息!; J8 D0 g/ a8 E: D( i
$ N* S4 Q6 C8 H) O5 }* ^
6 \/ o! {, m; X% k7 l
1 i$ i/ |7 B- |
ucgnbqslb1m64021064613.gif (16.04 KB, 下載次數(shù): 2)
下載附件
保存到相冊(cè)
ucgnbqslb1m64021064613.gif
2024-9-19 13:40 上傳
0 M8 T) l; F+ d" r3 G7 t# \9 P
g l1 ~8 L' |3 y, Y* E
關(guān)注我們4 m0 h( g3 v! R6 T, s* L
( b; B4 a, [( h6 Q( Q, |# x# r4 t0 Y7 ?4 z2 E P- F
ximkz0kbms064021064713.png (31.33 KB, 下載次數(shù): 2)
下載附件
保存到相冊(cè)
ximkz0kbms064021064713.png
2024-9-19 13:40 上傳
! T1 M3 u, G9 E. r1 r+ |4 s | % }/ D5 b( \1 d4 { F$ Q3 Y% H
xlgudxgrdfm64021064813.png (82.79 KB, 下載次數(shù): 3)
下載附件
保存到相冊(cè)
xlgudxgrdfm64021064813.png
2024-9-19 13:40 上傳
, z8 o6 `# [1 }7 H$ k- h
|
( Q1 m0 B/ E. r7 ~! P
51ku2atbfxv64021064913.png (21.52 KB, 下載次數(shù): 4)
下載附件
保存到相冊(cè)
51ku2atbfxv64021064913.png
2024-9-19 13:40 上傳
* I$ [6 w4 U) H- P | # @. W# T8 M9 R& E# l
% z7 w. ~( @, w# U5 M9 Y
& g, b4 ?3 p8 C# {: E2 X: V
]: g, I6 j0 ~' S, `關(guān)于我們:
$ G2 i6 [' ?1 y深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專注于半導(dǎo)體芯片設(shè)計(jì)自動(dòng)化(EDA)的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計(jì)和仿真軟件,提供成熟的設(shè)計(jì)解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對(duì)光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計(jì)與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù),廣泛服務(wù)于光通訊、光計(jì)算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國(guó)內(nèi)外晶圓代工廠及硅光/MEMS中試線合作,推動(dòng)特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展,致力于為客戶提供前沿技術(shù)與服務(wù)。
4 j5 x! J' V+ H1 ~/ o6 b; D$ U$ T; l
http://www.latitudeda.com/5 R: C+ g% _7 [! V: f
(點(diǎn)擊上方名片關(guān)注我們,發(fā)現(xiàn)更多精彩內(nèi)容) |
|