|
引言. D( F$ ?! i$ Q( F9 Q* P& s; E% B
在企業(yè)計(jì)算領(lǐng)域不斷演進(jìn)的背景下,IBM 通過其最新產(chǎn)品——IBM Telum II 處理器和 IBM Spyre 加速器芯片繼續(xù)推動(dòng)創(chuàng)新的邊界。這些尖端技術(shù)旨在滿足商業(yè)應(yīng)用中人工智能(AI)日益增長的需求,提供性能、效率和安全性。本文將幫助了解這些新技術(shù)的細(xì)節(jié)及其潛在影響,探討這些創(chuàng)新如何改變企業(yè)計(jì)算格局。4 l2 u1 m$ C( L# a
) I* b+ O8 d$ `2 W$ C- U9 }
" K: P( I1 v- k/ B% \IBM 大型機(jī)的力量+ a% k. |+ w- a, Q# }
在深入探討新硬件的具體細(xì)節(jié)之前,了解 IBM 大型機(jī)在當(dāng)今金融生態(tài)系統(tǒng)中的關(guān)鍵作用非常必要。根據(jù)最新研究,估計(jì) 70% 的全球交易(按價(jià)值計(jì)算)通過 IBM 大型機(jī)進(jìn)行處理。這一驚人的統(tǒng)計(jì)數(shù)據(jù)凸顯了大型機(jī)技術(shù)持續(xù)創(chuàng)新對(duì)支持全球經(jīng)濟(jì)的重要性。: [. d" N1 x% W3 G4 U$ P# j& J
0 n# _1 V n" `7 B. ]* g7 s
此外,IBM 大型機(jī)以可靠性著稱,可用率高達(dá) 99.999999%。這種可靠性對(duì)于需要持續(xù)運(yùn)行且無法承受系統(tǒng)故障的企業(yè)來說極為關(guān)鍵。$ [2 ^: `' i. e; i( k3 O
+ [ e+ R) F: l J* ?2 `5 R- P' `9 w4 T* E4 J
IBM Telum II 處理器簡介
. F+ \% w' r% d2 hIBM Telum II 處理器代表了大型機(jī)計(jì)算技術(shù)的重大飛躍。設(shè)計(jì)用于支持每秒數(shù)百萬次交易的 AI 處理,這一能力在當(dāng)今數(shù)據(jù)驅(qū)動(dòng)的商業(yè)環(huán)境中變得越來越重要。
: |' n! j4 D; L5 m8 H# M; T) x7 l4 m* {; c0 }8 a( J
Telum II 的主要特點(diǎn)7 ~3 k) C, @1 o* B$ d2 w
1. 增強(qiáng)的中央計(jì)算復(fù)合體:Telum II 比前代產(chǎn)品有多項(xiàng)改進(jìn),包括:
* b9 r' A) p6 `& J# A4 `/ f分支預(yù)測增強(qiáng)重命名寄存器容量增加(從 128 增至 160)改進(jìn)的存儲(chǔ)回寫和地址轉(zhuǎn)換面積減少 20%功耗降低 15%+ c6 U+ p8 s) W! O& Q4 c
5 N1 }0 _4 D: ~. Z3 V. d" D
2. 擴(kuò)展的緩存系統(tǒng):處理器具有:: B- V' s4 K6 d2 i* N. `
10 個(gè) L2 緩存,每個(gè) 36MB,訪問時(shí)間 3.6ns360MB 虛擬 L3 緩存,訪問時(shí)間 11.5ns2.8GB 虛擬 L4 緩存,訪問時(shí)間 48.5ns片外帶寬提高 30%Drawer 到 Drawer 的加密,增強(qiáng)安全性$ F" U+ C- x$ G S0 ?2 x
) j0 J3 f3 W) f8 Y* d3 i2 M& c
rc45wxmp4ms64024512333.png (420.29 KB, 下載次數(shù): 2)
下載附件
保存到相冊
rc45wxmp4ms64024512333.png
2024-9-20 01:31 上傳
8 q: {) R8 b }- G; V8 @# Z
圖 1:說明 Telum II 中央計(jì)算復(fù)合體和 L2 緩存系統(tǒng)的改進(jìn),突出了處理能力和內(nèi)存訪問的顯著增強(qiáng)。2 h! |3 C. P; i* q$ p
8 k% u1 ^% ?6 M7 }" A3. 先進(jìn)的制造工藝:Telum II 采用 5nm 技術(shù)制造,實(shí)現(xiàn):( K$ g s& B6 l6 t
每核心最高 5.5 GHz 時(shí)鐘速度插槽性能提升 20%處理器功耗降低 18%% U1 ?) M' t7 f4 @
p3 ^" d4 B: Q0 o$ I( v# Q# {0 ?
4. 創(chuàng)新的電壓控制:處理器incorporates一個(gè)復(fù)雜的電壓控制回路系統(tǒng),包括:
- x8 F Q8 Q7 |* a& _細(xì)粒度電壓測量線路工作負(fù)載監(jiān)控功能與電源轉(zhuǎn)換子系統(tǒng)緊密耦合2 c! c! i& n2 U& k3 {
: m5 H7 ~, R- c: g$ }; L
* ]5 Q( V/ t3 S
0sjfuucgwkf64024512433.png (120.12 KB, 下載次數(shù): 3)
下載附件
保存到相冊
0sjfuucgwkf64024512433.png
2024-9-20 01:31 上傳
9 O9 l; t, _9 t/ n1 T圖 2:展示Telum II 電壓控制回路實(shí)現(xiàn)的效率提升,說明在各種工作負(fù)載利用率下的較低功耗。
; t3 Y! N( }& G M6 v; c4 G# K1 ]0 ?5 f1 i( E5 ?8 A% }# A7 @7 { @
5. 片上數(shù)據(jù)處理單元(DPU):Telum II 具有專用 DPU 用于 I/O 加速,包括:
* e; G% N7 n5 i6 q! f- W4 個(gè)處理集群每個(gè)集群 8 個(gè)定制微控制器與整體緩存系統(tǒng)的連貫連接專用 I/O 加速邏輯隊(duì)列管理器,用于高效的工作調(diào)度和傳輸
, p0 p7 z) j% O8 g" f& D& j' C4 I8 i
. c% S' F( U5 S& w/ l* k% Q( `( Y9 n( B) s$ {' X4 B
pfpkb4vtcxn64024512533.png (351.46 KB, 下載次數(shù): 4)
下載附件
保存到相冊
pfpkb4vtcxn64024512533.png
2024-9-20 01:31 上傳
6 D4 O( f" A; {+ |+ _
igfpfpgzdhd64024512633.png (96.48 KB, 下載次數(shù): 2)
下載附件
保存到相冊
igfpfpgzdhd64024512633.png
2024-9-20 01:31 上傳
& r: e6 n$ x, g: }圖 3:概述片上數(shù)據(jù)處理單元(DPU)的結(jié)構(gòu),突出其組件和互連,用于高效的 I/O 處理。 m( G; M% i' K7 k
: N# }% \2 }. U1 P$ H$ c
6. 大規(guī)模擴(kuò)展 I/O 子系統(tǒng):Telum II 支持: v/ e4 x B: K" E% q+ c6 W9 m
在一個(gè)連貫的 SMP 系統(tǒng)中最多 32 個(gè)處理器12 個(gè) I/O 擴(kuò)展 Drawer,每個(gè)有 16 個(gè) PCIe 插槽單個(gè)系統(tǒng)中總共最多 192 個(gè) PCIe 卡$ |9 h3 `! v( M4 e6 H" V$ H6 d$ m e
, V7 ?$ ?5 q* f+ f1 ?9 `; `
Telum II 中的 AI 加速
8 z1 A) }2 l" ~9 y4 f0 p. yTelum II 最顯著的進(jìn)步之一是其增強(qiáng)的 AI 能力。處理器包含針對(duì)傳統(tǒng) AI 模型優(yōu)化的片上 AI 加速器,能夠支持各種企業(yè)用例:
6 `, l. z6 \. s% o# h清算結(jié)算合規(guī)檢查保險(xiǎn)理賠處理欺詐檢測6 ^. i! j* W, m7 |
6 R2 w4 |1 I I+ O. P
Telum II 中的 AI 加速器提供:
: A% l& x0 ^+ y5 ~# t每芯片 24 TOPS(每秒萬億次運(yùn)算)每 Drawer 192 TOPS每系統(tǒng) 768 TOPS作為 CISC 指令集成,實(shí)現(xiàn)無縫操作支持 INT8 和 FP16 數(shù)據(jù)類型& e0 p( {. ?: n3 Z; z& Q3 ~
. u) I) H! ^/ J: H* G; x0 S- J& q( e2 {0 ]/ y$ {; t4 H( I( u
avjevfdfmnl64024512733.png (337.58 KB, 下載次數(shù): 1)
下載附件
保存到相冊
avjevfdfmnl64024512733.png
2024-9-20 01:31 上傳
4 c2 F4 A4 s+ P9 ]- s0 J
圖 4:展示Telum II 處理器的 AI 加速能力,突出其 TOPS 性能和系統(tǒng)集成。+ S) f/ F& X& k/ b
IBM Spyre 加速器簡介5 p( h$ \- y& ?# K1 q' Z$ |
Telum II 的片上 AI 加速器令人印象深刻,但 IBM 通過引入 IBM Spyre 加速器進(jìn)一步推進(jìn)了 AI 加速。這種專用芯片旨在處理更復(fù)雜的 AI 模型和工作負(fù)載,補(bǔ)充了 Telum II 的能力。, V+ g! E5 ?+ @4 J; {
! i% X9 v' n: P# f" kIBM Spyre 加速器的主要特點(diǎn)
. Q# Q; K& J6 Q& h* w1 h1. 強(qiáng)大的性能:Spyre 加速器提供:1 R4 Z% n, }" ]2 V4 |
超過 300 TOPS 的計(jì)算能力75W 功耗,采用 PCIe gen5 x16 適配器128GB LPDDR5 內(nèi)存4 k! F8 {7 L) P! U) _
2 i& m! r; X0 T4 p2. 創(chuàng)新的核心設(shè)計(jì):加速器具有:% T4 h4 L) T& o3 ?$ c7 v
32 個(gè)核心,每個(gè)配備 2MB 暫存器55%+ 有效 TOPS 利用率獨(dú)特的 "corelet" 結(jié)構(gòu),用于高效數(shù)據(jù)移動(dòng)
$ c( p f% ~7 Q- m# S
0 W- Q# V$ f2 O4 x
5 U5 M) K1 m2 ]5 a4 r! e
4dvzkpyhv5u64024512833.png (490.66 KB, 下載次數(shù): 2)
下載附件
保存到相冊
4dvzkpyhv5u64024512833.png
2024-9-20 01:31 上傳
; t6 n5 ?) c, l
cmnsyffhb2264024512933.png (84.63 KB, 下載次數(shù): 2)
下載附件
保存到相冊
cmnsyffhb2264024512933.png
2024-9-20 01:31 上傳
+ a; S8 p. r$ t0 m
圖 5:說明 IBM Spyre 加速器的核心和 corelet 結(jié)構(gòu),展示其創(chuàng)新設(shè)計(jì),實(shí)現(xiàn)高效 AI 計(jì)算。
5 p- o0 d# p% t. t+ [7 g
4 m5 V& r- Z* N( H" g3. 高速互連:Spyre 加速器利用:
: e9 K7 t$ j9 V8 @$ R32B 雙向環(huán)連接核心200GB/s LPDDR5 連接到暫存器環(huán)128B 雙向環(huán)連接暫存器) `& P; Q# T5 M6 H
- B' }! G' @( W% D4. 可擴(kuò)展性:Spyre 加速器設(shè)計(jì)用于集群部署:0 @7 M' U1 U" G1 r6 y' m* u9 `
I/O Drawer 中的 8 張卡形成一個(gè)邏輯集群每個(gè)集群總共 1TB 內(nèi)存1.6TB/s 聚合內(nèi)存帶寬0 ]7 k; S/ ?1 p: {# V6 M2 w8 Y7 W
( q) ~: z- g6 [8 I5. 先進(jìn)制造:采用三星 5LPE 技術(shù)制造,Spyre 加速器擁有:, D" l0 U6 {% n1 {
260 億晶體管330 平方毫米芯片面積14 英里線路* B) n: w; P# T% [% b3 U
; t$ K! f {3 _- t
x9 ] |# [, Z! e( ~
dprsqzkruz564024513033.png (204.75 KB, 下載次數(shù): 3)
下載附件
保存到相冊
dprsqzkruz564024513033.png
2024-9-20 01:31 上傳
+ H& p- W* q% Y+ U& p9 ]% z4 E圖 6:比較 Telum II 處理器和 Spyre 加速器的制造細(xì)節(jié),突出兩種芯片使用的先進(jìn)技術(shù)。; l" I' k' c$ |3 [; m% y
& {/ R; |6 D$ A
AI 用例和應(yīng)用
5 i+ L' O- h( ^! \/ Z q5 q% M2 vTelum II 處理器和 Spyre 加速器的結(jié)合為企業(yè)環(huán)境中的各種 AI 應(yīng)用提供了支持。這些技術(shù)支持 AI 的整體方法,允許企業(yè)利用傳統(tǒng)和更復(fù)雜的 AI 模型用于各種用例:增強(qiáng)欺詐檢測:通過結(jié)合 Telum II 的片上 AI 加速器和更強(qiáng)大的 Spyre 加速器,金融機(jī)構(gòu)可以實(shí)施復(fù)雜的欺詐檢測系統(tǒng),實(shí)時(shí)分析交易。生成式 AI:Spyre 加速器的高性能使其適合運(yùn)行大型語言模型和其他生成式 AI 應(yīng)用,為內(nèi)容創(chuàng)建和數(shù)據(jù)分析開創(chuàng)了新的可能性。代碼轉(zhuǎn)換和輔助:開發(fā)人員可以受益于 AI 驅(qū)動(dòng)的代碼建議、解釋和轉(zhuǎn)換工具,提高生產(chǎn)力和代碼質(zhì)量。系統(tǒng)管理:AI 助手可以通過提供智能建議來簡化 IT 操作,包括系統(tǒng)配置、故障排除和優(yōu)化。合規(guī)和風(fēng)險(xiǎn)管理:先進(jìn)的 AI 功能可以應(yīng)用于自動(dòng)化合規(guī)檢查,并增強(qiáng)各行業(yè)的風(fēng)險(xiǎn)評(píng)估流程。
6 F1 b+ D; T+ M6 |! T& }[/ol]2 s+ V2 \0 r2 G( G, r1 P1 k3 `
5 F+ A; |$ b9 J: f6 |$ b. r% v& b' h結(jié)論0 x' b- C" |. O7 W
IBM Telum II 處理器和 IBM Spyre 加速器代表了企業(yè)計(jì)算和 AI 加速的重大進(jìn)步。通過將高性能傳統(tǒng)計(jì)算與專用 AI 硬件相結(jié)合,IBM 使企業(yè)能夠?qū)崟r(shí)應(yīng)對(duì)日益復(fù)雜的挑戰(zhàn)。
E- n# Y. z0 w: }5 L. m4 ^
% `& _& O1 L7 w" G9 C/ y) Z3 c這些創(chuàng)新將改變金融、保險(xiǎn)、軟件開發(fā)和 IT 運(yùn)營等多個(gè)行業(yè)。隨著 AI 在商業(yè)運(yùn)營中繼續(xù)發(fā)揮關(guān)鍵作用,以前所未有的速度處理海量數(shù)據(jù)并做出智能決策的能力將成為關(guān)鍵的競爭優(yōu)勢。
# I" X& B- r8 b* H# J4 ~- q
& _ z3 A' \5 } dIBM Spyre 加速器目前處于技術(shù)預(yù)覽階段,但對(duì)企業(yè) AI 格局的潛在影響巨大。隨著這些技術(shù)的成熟和廣泛應(yīng)用,可以期待看到一波新的 AI 驅(qū)動(dòng)的應(yīng)用和服務(wù),重塑企業(yè)在數(shù)字時(shí)代的運(yùn)營方式。* j0 Y8 W3 u8 Z4 ~2 ^+ w
" f- @/ W" y$ ~/ c# ?( A+ l. g企業(yè)計(jì)算中 AI 的發(fā)展才剛剛開始,IBM 通過 Telum II 處理器和 Spyre 加速器為未來創(chuàng)造了新的可能性,在這個(gè)未來中,AI 將深度集成到業(yè)務(wù)運(yùn)營的每個(gè)方面,推動(dòng)效率、創(chuàng)新和增長。4 W. \; o) ?- A7 S" c8 a2 F% y* v
) ^+ S6 J4 E5 |6 [9 T參考文獻(xiàn)
! C' |1 {; B2 L9 S' Z# A[1] C. Berry, "IBM Telum? II processor and IBM Spyre Accelerator chip for AI," presented at Hot Chips 2024, 2024.
2 O1 C- S1 q4 q! [9 I K% }. j3 e# C( }% F% W
- END -2 e) i/ ~ J$ ]/ a0 y
' Z3 Q h6 f& O: k9 n0 S
軟件申請(qǐng)我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請(qǐng)?bào)w驗(yàn)免費(fèi)版PIC Studio軟件。無論是研究還是商業(yè)應(yīng)用,PIC Studio都可提升您的工作效能。
9 s: v( `9 C2 z; I, t; {! V點(diǎn)擊左下角"閱讀原文"馬上申請(qǐng)6 ]0 ?. \$ Y0 c, ]5 A) n
3 A/ a& o0 n1 u7 H2 m
歡迎轉(zhuǎn)載# K5 r$ m0 G% \$ `! J+ j7 y# i
( I, c$ H. k- Y6 I轉(zhuǎn)載請(qǐng)注明出處,請(qǐng)勿修改內(nèi)容和刪除作者信息!. E$ R1 K% M9 O3 T. k
4 K: m5 } n) k! o0 d( Q! L# y- c" l0 n
) L% Q4 r9 w3 y* V0 q% q
n1qrqnvypzh64024513133.gif (16.04 KB, 下載次數(shù): 4)
下載附件
保存到相冊
n1qrqnvypzh64024513133.gif
2024-9-20 01:31 上傳
1 f$ w: r* T5 P- E! b
0 ]; K9 b. B8 l關(guān)注我們
0 d' J; {! \! O" ?7 K4 O
' l6 [$ m5 ?: u" @0 Z; T" z- L" j8 F2 x- K0 h4 E1 y: y
bnig1hnphqt64024513233.png (31.33 KB, 下載次數(shù): 2)
下載附件
保存到相冊
bnig1hnphqt64024513233.png
2024-9-20 01:31 上傳
' q1 l @3 R- O+ {. f
| " x7 N$ T' m5 O# ^& k" y( Z0 I
gz44by2upgn64024513333.png (82.79 KB, 下載次數(shù): 3)
下載附件
保存到相冊
gz44by2upgn64024513333.png
2024-9-20 01:31 上傳
$ a3 z; P' T; ^3 X' f
| , A* @( [2 {6 T, B/ D
jf0bntred1564024513433.png (21.52 KB, 下載次數(shù): 1)
下載附件
保存到相冊
jf0bntred1564024513433.png
2024-9-20 01:31 上傳
3 q, p% c- y2 l: d | * o7 v0 _! L" T; i7 v
?) j# b" I& q9 \
! v) ]0 G: `, I5 U" g+ l
. w. E" U! K& P1 U/ I6 b2 t$ m& c, r" ^
關(guān)于我們:9 X* g4 Z. v. }1 ^8 S
深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專注于半導(dǎo)體芯片設(shè)計(jì)自動(dòng)化(EDA)的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計(jì)和仿真軟件,提供成熟的設(shè)計(jì)解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對(duì)光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計(jì)與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù),廣泛服務(wù)于光通訊、光計(jì)算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國內(nèi)外晶圓代工廠及硅光/MEMS中試線合作,推動(dòng)特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展,致力于為客戶提供前沿技術(shù)與服務(wù)。& r& a& `! Y! [8 e
. I* z' O! D. O y$ Z: l
http://www.latitudeda.com/$ D6 o; H* h' q+ {( I
(點(diǎn)擊上方名片關(guān)注我們,發(fā)現(xiàn)更多精彩內(nèi)容) |
|