電子產(chǎn)業(yè)一站式賦能平臺

PCB聯(lián)盟網(wǎng)

搜索
查看: 32|回復(fù): 0
收起左側(cè)

Hot Chips 2024 | IBM Telum II 處理器和 Spyre 加速器推動企業(yè)計算中的人工智能發(fā)展

[復(fù)制鏈接]

465

主題

465

帖子

3514

積分

四級會員

Rank: 4

積分
3514
跳轉(zhuǎn)到指定樓層
樓主
發(fā)表于 2024-9-18 08:00:00 | 只看該作者 |只看大圖 回帖獎勵 |倒序瀏覽 |閱讀模式
引言  P9 j( T; n3 T0 Y
在企業(yè)計算領(lǐng)域不斷演進(jìn)的背景下,IBM 通過其最新產(chǎn)品——IBM Telum II 處理器和 IBM Spyre 加速器芯片繼續(xù)推動創(chuàng)新的邊界。這些尖端技術(shù)旨在滿足商業(yè)應(yīng)用中人工智能(AI)日益增長的需求,提供性能、效率和安全性。本文將幫助了解這些新技術(shù)的細(xì)節(jié)及其潛在影響,探討這些創(chuàng)新如何改變企業(yè)計算格局。
( P8 S% f9 e3 G( m; ^, j4 q  w: C5 u3 _# {( _: M
( p  ^! u1 \1 {5 o
IBM 大型機(jī)的力量
/ a4 D, V  }5 ^" ]% J# g+ w在深入探討新硬件的具體細(xì)節(jié)之前,了解 IBM 大型機(jī)在當(dāng)今金融生態(tài)系統(tǒng)中的關(guān)鍵作用非常必要。根據(jù)最新研究,估計 70% 的全球交易(按價值計算)通過 IBM 大型機(jī)進(jìn)行處理。這一驚人的統(tǒng)計數(shù)據(jù)凸顯了大型機(jī)技術(shù)持續(xù)創(chuàng)新對支持全球經(jīng)濟(jì)的重要性。, z, }$ R; H1 Z) n7 E  [7 f
( M( N7 h  J: p6 P
此外,IBM 大型機(jī)以可靠性著稱,可用率高達(dá) 99.999999%。這種可靠性對于需要持續(xù)運行且無法承受系統(tǒng)故障的企業(yè)來說極為關(guān)鍵。# c! G; L) z2 U
0 B/ ^% w) G8 D- j' Q" f
; |6 w/ l, U8 J* c  p0 U" e
IBM Telum II 處理器簡介, S% ?) X- N9 w$ X
IBM Telum II 處理器代表了大型機(jī)計算技術(shù)的重大飛躍。設(shè)計用于支持每秒數(shù)百萬次交易的 AI 處理,這一能力在當(dāng)今數(shù)據(jù)驅(qū)動的商業(yè)環(huán)境中變得越來越重要。
1 g& V1 I7 e$ G$ @
% E5 f2 J( ~) F& h' ?1 |( d) aTelum II 的主要特點/ U6 q/ v" |$ N' {" T8 ]1 ?/ K
1. 增強(qiáng)的中央計算復(fù)合體:Telum II 比前代產(chǎn)品有多項改進(jìn),包括:
' A  A0 r* O  z2 _9 A
  • 分支預(yù)測增強(qiáng)
  • 重命名寄存器容量增加(從 128 增至 160)
  • 改進(jìn)的存儲回寫和地址轉(zhuǎn)換
  • 面積減少 20%
  • 功耗降低 15%
    / u. {& v0 R$ Q- e& v

    " p7 }4 ?# ]* g- {! f4 o3 m2. 擴(kuò)展的緩存系統(tǒng):處理器具有:
    1 r; S+ c/ j5 R0 m2 M, I" B
  • 10 個 L2 緩存,每個 36MB,訪問時間 3.6ns
  • 360MB 虛擬 L3 緩存,訪問時間 11.5ns
  • 2.8GB 虛擬 L4 緩存,訪問時間 48.5ns
  • 片外帶寬提高 30%
  • Drawer 到 Drawer 的加密,增強(qiáng)安全性) j! A9 x3 T8 p1 C) w  ^/ y# }

    $ G  b" V9 F; q8 m& `
    0 u$ j0 o7 T0 c+ O5 G+ s ( u0 }- w4 N& M! x8 M
    圖 1:說明 Telum II 中央計算復(fù)合體和 L2 緩存系統(tǒng)的改進(jìn),突出了處理能力和內(nèi)存訪問的顯著增強(qiáng)。
    , K7 M. |% M. |) @8 j
    * P, ?" j4 g4 I9 [; F7 q" E4 D3. 先進(jìn)的制造工藝:Telum II 采用 5nm 技術(shù)制造,實現(xiàn):
    ' y) P5 o8 O, e( H
  • 每核心最高 5.5 GHz 時鐘速度
  • 插槽性能提升 20%
  • 處理器功耗降低 18%
    3 L+ k* t3 F/ G2 J
    3 t1 S7 s2 O2 r: O/ X, x8 Y- Q
    4. 創(chuàng)新的電壓控制:處理器incorporates一個復(fù)雜的電壓控制回路系統(tǒng),包括:
    ) s% {4 Y; R' X% f
  • 細(xì)粒度電壓測量線路
  • 工作負(fù)載監(jiān)控功能
  • 與電源轉(zhuǎn)換子系統(tǒng)緊密耦合  G' Z% N$ V8 v; u# d- _
    ! |8 `' F/ _: y3 y" j% V6 g* L2 h: @
    : y' r' A% ]9 _2 T+ T4 T

    8 P" Z1 H% B' k5 z$ [圖 2:展示Telum II 電壓控制回路實現(xiàn)的效率提升,說明在各種工作負(fù)載利用率下的較低功耗。
    ; I/ g1 \4 B: |, V0 m. v8 Y2 n
    9 [  p0 M* M& N- G1 N4 S( t9 h/ B5. 片上數(shù)據(jù)處理單元(DPU):Telum II 具有專用 DPU 用于 I/O 加速,包括:
    " L: t8 D. v8 I  T: I
  • 4 個處理集群
  • 每個集群 8 個定制微控制器
  • 與整體緩存系統(tǒng)的連貫連接
  • 專用 I/O 加速邏輯
  • 隊列管理器,用于高效的工作調(diào)度和傳輸
    7 ]( s) B! ]  B" D
    , g* [+ r3 b8 J/ `4 e" E9 l/ B* h

    : Y1 F; Y% s. u3 J
    8 G& I! z# ?7 a7 p0 M6 h & T+ R* L' c# i/ S1 a
    圖 3:概述片上數(shù)據(jù)處理單元(DPU)的結(jié)構(gòu),突出其組件和互連,用于高效的 I/O 處理。
    $ D/ v) @7 w, b3 T" |% _7 Q+ [3 H# d- @6 S& n" f
    6. 大規(guī)模擴(kuò)展 I/O 子系統(tǒng):Telum II 支持:
    1 u: V, R' a* e
  • 在一個連貫的 SMP 系統(tǒng)中最多 32 個處理器
  • 12 個 I/O 擴(kuò)展 Drawer,每個有 16 個 PCIe 插槽
  • 單個系統(tǒng)中總共最多 192 個 PCIe 卡
    9 a$ w+ ^* I+ R3 h; k$ y( _

    ; c# j! C+ Z' r# z2 B' z+ kTelum II 中的 AI 加速0 |+ U" e" @5 k* q
    Telum II 最顯著的進(jìn)步之一是其增強(qiáng)的 AI 能力。處理器包含針對傳統(tǒng) AI 模型優(yōu)化的片上 AI 加速器,能夠支持各種企業(yè)用例:
    $ `; K4 c8 o8 i" G) U9 B
  • 清算結(jié)算
  • 合規(guī)檢查
  • 保險理賠處理
  • 欺詐檢測
    9 q" I9 V" }  B: _! _

    " z+ j2 b7 s8 E% t* n9 ITelum II 中的 AI 加速器提供:+ S* R% V% ]/ o& J
  • 每芯片 24 TOPS(每秒萬億次運算)
  • 每 Drawer 192 TOPS
  • 每系統(tǒng) 768 TOPS
  • 作為 CISC 指令集成,實現(xiàn)無縫操作
  • 支持 INT8 和 FP16 數(shù)據(jù)類型% S1 A* N4 e* Y( K4 n3 ?
    2 J/ }/ S& ^6 {# o4 X2 A( v2 {2 G) K
    6 T& t, X3 y$ z' r8 g) q/ Y

    7 j! {  i4 P7 {$ w. j" [圖 4:展示Telum II 處理器的 AI 加速能力,突出其 TOPS 性能和系統(tǒng)集成。! N0 Q0 g) L! v  @* P; C" S: Z& S
    IBM Spyre 加速器簡介
    4 E4 d5 C# o7 hTelum II 的片上 AI 加速器令人印象深刻,但 IBM 通過引入 IBM Spyre 加速器進(jìn)一步推進(jìn)了 AI 加速。這種專用芯片旨在處理更復(fù)雜的 AI 模型和工作負(fù)載,補(bǔ)充了 Telum II 的能力。
    " p# }* h; u+ D  @. ^1 ~/ |/ Y- [" B4 e3 f# Z9 c
    IBM Spyre 加速器的主要特點4 z  T- x. L. v* t/ A9 G
    1. 強(qiáng)大的性能:Spyre 加速器提供:& G2 \* z5 L, O/ {% ^$ v" f
  • 超過 300 TOPS 的計算能力
  • 75W 功耗,采用 PCIe gen5 x16 適配器
  • 128GB LPDDR5 內(nèi)存" a/ }6 Q. a1 m0 C- _( W
    " z9 h. _2 E3 C/ B* n
    2. 創(chuàng)新的核心設(shè)計:加速器具有:
    & I  Z$ x; _( X  J: c0 a
  • 32 個核心,每個配備 2MB 暫存器
  • 55%+ 有效 TOPS 利用率
  • 獨特的 "corelet" 結(jié)構(gòu),用于高效數(shù)據(jù)移動
    7 `: D; g9 q4 q3 y# f( h

    ( `: z. C* W9 a5 C. M/ g
    8 b+ w. r8 }0 y; Y / A+ M9 m. L5 ]  C
    8 p, t2 r# }; B2 w' R& z
    圖 5:說明 IBM Spyre 加速器的核心和 corelet 結(jié)構(gòu),展示其創(chuàng)新設(shè)計,實現(xiàn)高效 AI 計算。. G3 s8 ^& [# A  C! p' r* K
    1 X; c8 b8 M9 h0 W1 f3 X+ l" r' a+ y
    3. 高速互連:Spyre 加速器利用:
    $ Q/ N$ q% d6 `1 P* x; z& Z8 a2 N9 n
  • 32B 雙向環(huán)連接核心
  • 200GB/s LPDDR5 連接到暫存器環(huán)
  • 128B 雙向環(huán)連接暫存器
    : u- h9 q) t4 w- p) _- W

    ) ]- A. Q; }1 F& m5 w, ^1 b; O4. 可擴(kuò)展性:Spyre 加速器設(shè)計用于集群部署:
    ; K  r% T3 N& y9 w- E* ^' [
  • I/O Drawer 中的 8 張卡形成一個邏輯集群
  • 每個集群總共 1TB 內(nèi)存
  • 1.6TB/s 聚合內(nèi)存帶寬5 o. T9 B/ u, J) c3 H
    3 [) D4 t0 O( I. J6 I: p
    5. 先進(jìn)制造:采用三星 5LPE 技術(shù)制造,Spyre 加速器擁有:: e1 ~8 w- O4 C5 v& \
  • 260 億晶體管
  • 330 平方毫米芯片面積
  • 14 英里線路
    & X! _7 N+ O: ^2 p5 i  \

    7 g) G! c- F$ ?% P0 }: d9 m) b0 w1 }

    / [' v1 ?  s# G  U圖 6:比較 Telum II 處理器和 Spyre 加速器的制造細(xì)節(jié),突出兩種芯片使用的先進(jìn)技術(shù)。
    9 B0 G# E: k; t! r
      H/ l5 q. @# y, d2 @AI 用例和應(yīng)用
    ( k& h: k- R5 I' [8 H2 o  C- \Telum II 處理器和 Spyre 加速器的結(jié)合為企業(yè)環(huán)境中的各種 AI 應(yīng)用提供了支持。這些技術(shù)支持 AI 的整體方法,允許企業(yè)利用傳統(tǒng)和更復(fù)雜的 AI 模型用于各種用例:
  • 增強(qiáng)欺詐檢測:通過結(jié)合 Telum II 的片上 AI 加速器和更強(qiáng)大的 Spyre 加速器,金融機(jī)構(gòu)可以實施復(fù)雜的欺詐檢測系統(tǒng),實時分析交易。
  • 生成式 AI:Spyre 加速器的高性能使其適合運行大型語言模型和其他生成式 AI 應(yīng)用,為內(nèi)容創(chuàng)建和數(shù)據(jù)分析開創(chuàng)了新的可能性。
  • 代碼轉(zhuǎn)換和輔助:開發(fā)人員可以受益于 AI 驅(qū)動的代碼建議、解釋和轉(zhuǎn)換工具,提高生產(chǎn)力和代碼質(zhì)量。
  • 系統(tǒng)管理:AI 助手可以通過提供智能建議來簡化 IT 操作,包括系統(tǒng)配置、故障排除和優(yōu)化。
  • 合規(guī)和風(fēng)險管理:先進(jìn)的 AI 功能可以應(yīng)用于自動化合規(guī)檢查,并增強(qiáng)各行業(yè)的風(fēng)險評估流程。
    4 _) S' n, m3 u3 N# U1 G[/ol]8 ?% e" f- C) I  o% q
    5 b1 M) T" U/ g
    結(jié)論1 t8 E+ c0 T' r+ q6 \8 l
    IBM Telum II 處理器和 IBM Spyre 加速器代表了企業(yè)計算和 AI 加速的重大進(jìn)步。通過將高性能傳統(tǒng)計算與專用 AI 硬件相結(jié)合,IBM 使企業(yè)能夠?qū)崟r應(yīng)對日益復(fù)雜的挑戰(zhàn)。
    8 g8 B3 P, H% B% v0 u' V1 B% U0 L% U
    這些創(chuàng)新將改變金融、保險、軟件開發(fā)和 IT 運營等多個行業(yè)。隨著 AI 在商業(yè)運營中繼續(xù)發(fā)揮關(guān)鍵作用,以前所未有的速度處理海量數(shù)據(jù)并做出智能決策的能力將成為關(guān)鍵的競爭優(yōu)勢。
    6 B8 i& z& z  Z: _
    ) a2 [" ?+ b) s3 k! q$ `IBM Spyre 加速器目前處于技術(shù)預(yù)覽階段,但對企業(yè) AI 格局的潛在影響巨大。隨著這些技術(shù)的成熟和廣泛應(yīng)用,可以期待看到一波新的 AI 驅(qū)動的應(yīng)用和服務(wù),重塑企業(yè)在數(shù)字時代的運營方式。3 f& H) h9 J4 [2 ^' C+ f5 m

    - P7 z& q, ~, I企業(yè)計算中 AI 的發(fā)展才剛剛開始,IBM 通過 Telum II 處理器和 Spyre 加速器為未來創(chuàng)造了新的可能性,在這個未來中,AI 將深度集成到業(yè)務(wù)運營的每個方面,推動效率、創(chuàng)新和增長。; \9 _$ g( v  C, r

    + }! ?. x, l$ Z9 ]) z參考文獻(xiàn)
    % T0 |# F: e, L/ K[1] C. Berry, "IBM Telum? II processor and IBM Spyre Accelerator chip for AI," presented at Hot Chips 2024, 2024.. Y# J7 {* g! \- w; e2 ^
    / C2 N% f$ h$ }( X4 D& D/ m
    - END -
    8 q9 h" o: |. ]
    ) s7 P4 G; }! z% V& T) x4 T+ p軟件申請我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請體驗免費版PIC Studio軟件。無論是研究還是商業(yè)應(yīng)用,PIC Studio都可提升您的工作效能。
    . Y1 U" z8 `. P: y9 O點擊左下角"閱讀原文"馬上申請
    - `5 z+ Q2 N% y; R2 ^) _
    ) w1 N' A: e5 U4 M7 t$ P歡迎轉(zhuǎn)載
    & P8 I) w. K2 j* R
    ) M& Y) C' Q' i3 }& D. S轉(zhuǎn)載請注明出處,請勿修改內(nèi)容和刪除作者信息!) B2 {- h$ D3 q; K( p
    9 X& f, ?7 K; J

    ' |# s& }" O' Y, J* b+ A
    ! `$ D- ]8 N6 A+ ]) \& m$ Z9 }
    3 q( c5 q) ~' q- Y% @: i
    - k8 ?+ }3 `; F$ n1 Z) {
    關(guān)注我們1 C7 H; q' o+ `1 o8 l" o

    0 T  n5 H4 [3 {# _+ ?( {' S
    4 k. k" L$ W& t& {5 I
    + o1 V6 F0 g; T) W% q4 Y9 \
    4 p8 n4 Q! X1 i9 h% R. Q

    2 x5 V4 X* l- @$ k7 N1 ~$ p% T

    , t; }! V5 r3 r* p+ c( I9 T % @% V' \% O& `' g- v
                         
    9 s! I3 l: r3 K" q  k4 N# f+ w& F! o& w9 j1 g+ R( z+ W/ v/ W
    2 U9 n+ q% m" C

    / r4 Q/ A& B5 Q8 Z關(guān)于我們:
    4 L, P0 C4 r, n5 j8 t深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專注于半導(dǎo)體芯片設(shè)計自動化(EDA)的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計和仿真軟件,提供成熟的設(shè)計解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù),廣泛服務(wù)于光通訊、光計算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國內(nèi)外晶圓代工廠及硅光/MEMS中試線合作,推動特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展,致力于為客戶提供前沿技術(shù)與服務(wù)。4 A& d6 [+ H- t& }' n0 W$ ]( U
    . B+ _* e/ g- N( j9 V
    http://www.latitudeda.com/6 d0 {9 [2 d* m5 D8 h% w' ~
    (點擊上方名片關(guān)注我們,發(fā)現(xiàn)更多精彩內(nèi)容)
  • 回復(fù)

    使用道具 舉報

    發(fā)表回復(fù)

    您需要登錄后才可以回帖 登錄 | 立即注冊

    本版積分規(guī)則

    關(guān)閉

    站長推薦上一條 /1 下一條


    聯(lián)系客服 關(guān)注微信 下載APP 返回頂部 返回列表