2026年11月21日 星期六

HBM5 散熱原理:台積電做的 Base Die 為何變火爐?SK 海力士 iHBM vs 三星 HPB 比較

HBM5 散熱原理:台積電做的 Base Die 為何變火爐?SK 海力士 iHBM vs 三星 HPB 比較

HBM5 散熱示意圖:熱點在 Base Die PHY,SK 海力士 iHBM ICE 導熱柱與三星 HPB 熱通道比較

重點先講:HBM 最燙的地方不是上面那疊 12~16 層的 DRAM,而是壓在最底下、負責跟 GPU 講話的 Base Die(基底晶片)。更有意思的是,這顆晶片從 HBM4 開始越來越常交給台積電的邏輯製程來做,塞進的電路越多、跑得越快,就越像一個小火爐。SK 海力士的 iHBM 和三星的 HPB,本質上都是在幫這個「地下室」開排熱通道。

這篇延伸自 PLC 粉專的貼文「台積電也救不了的熱」,原始貼文在這:https://www.facebook.com/1147074221177116/posts/1166786139205924

發生了什麼

  • SK 海力士 iHBM(2026/5/26 發表):在 Base Die 的 D2D PHY 區域放入 ICE(Integrated Cooling Elements,整合冷卻元件),材料是「不導電、高導熱的矽基材料」,替熱多開一條直通上方冷板的路,官方說熱阻降低 30%。沿用 MR-MUF 晶圓級封裝製程,目標從 HBM5 導入;韓媒 ETNews 10 月報導已開始找材料與設備供應商談量產。
  • 三星 HBM5 + HPB(Computex 2026 展出模型):Heat Path Block 是像煙囪一樣的額外導熱路徑,把底層熱往旁邊或上方的散熱片帶走。三星說 HPB 已在 HBM4E 上完成結構與可靠度驗證,HBM5 的 Base Die 改用自家 2 奈米。
  • 台積電的位置:SK 海力士 HBM4 的 Base Die 改用台積電 12 奈米級邏輯製程;台積電在 OIP 論壇提到客製 C-HBM4E 的 Base Die 走 N3P,還要把記憶體控制器搬進去。美光的 HBM4E 邏輯晶片也預期由台積電生產。
  • 時程:兩家都把方案綁在 HBM5,業界普遍預估 2028 年以後才量產;ETNews 引述 SK 海力士路線圖是 2029 年。
幫粉專貼文補一個細節:iHBM 的 ICE 和三星 HPB 目前都只公布了概念與效果,數量、尺寸、確切位置都沒有公開。網路上看到的「柱子擠在最底層側邊」圖,多半是示意圖,不是實際佈局。

工程重點 1:為什麼地下室最燙?

三星在 Hot Chips 2026 的簡報說,為了把頻寬拉高、PHY 面積縮小,Base Die 上 PHY 區的功率密度會從 約 0.5 W/mm² 升到 2 W/mm² 以上,四倍跳升。拿一顆約 1,000W、雙晶片合計約 1,600mm² 的 AI GPU 來粗估,平均功率密度大約 0.6 W/mm²(作者估算)。也就是說,HBM5 的 PHY 熱點密度可能是 GPU 平均值的三倍以上,只是面積小、藏在記憶體最底下。

再加上 CoWoS 的佈局:HBM 跟 GPU 肩並肩貼在同一塊中介層上,PHY 剛好在最靠 GPU 的那一側。GPU 的熱會沿著中介層橫向傳過來,跟 PHY 自己的熱疊在一起。最熱的點,剛好也是最難散熱的點。

工程重點 2:熱往上走,為什麼像穿棉被?用熱阻算一次

傳統做法是讓熱從 Base Die 往上,穿過整疊 DRAM,從頂部冷板帶走。問題在每兩層晶片之間,都有一層約 15µm 的填縫材料(MR-MUF 樹脂或 NCF 薄膜)。用一維熱阻、只看 1mm² 的一根「熱柱子」粗算:

路徑(每 1mm²)假設熱阻
16 層填縫材料每層 15µm,k≈1 W/m·K約 240 K/W
16 層 DRAM 矽每層 30µm,k≈120 W/m·K約 4 K/W
一根實心矽柱,同高度 775µmk≈120 W/m·K約 6.5 K/W

結論很直白:熱阻幾乎全卡在填縫材料,矽本身反而很好走。一根同高度的實心矽柱,熱阻大約只有穿過整疊的 1/37。實際 HBM 裡有大量銅凸塊和 TSV 幫忙導熱,熱也會橫向擴散,所以真實數字遠比 240 K/W 好,但「瓶頸在層與層之間」這件事不會變。這也是為什麼 ICE 要用矽基、電絕緣的材料,而不是銅:銅導熱更好,但放在高速訊號旁邊會干擾訊號、還有短路風險。(以上為作者簡化估算,非廠商數據。)

工程重點 3:熱阻降 30%,換算成什麼?

熱阻 R、功率 P、溫升 ΔT 的關係是 ΔT = P × R。假設某個 PHY 熱點原本比冷卻液高 40°C,熱阻降 30% 後同樣功率只升 28°C,多出 12°C 的餘裕;反過來,如果溫升上限不變,可以多吃約 43% 的功率(1 ÷ 0.7)。PHY 的功率密度要翻四倍,30% 不是全部的解答,但能讓 PHY 少降頻、DRAM 少因高溫加速刷新。三星則說,HPB 覆蓋超過一半 PHY 面積時,峰值溫度可降超過 35%,這是三星自家模擬,比較基準未完整公開。

工程重點 4:跟台積電的散熱方案打架嗎?

不打架,而是分層負責。台積電做的是 封裝級:整顆 GPU + HBM 一起冷,包括高導熱蓋板,以及我們 11/17 寫過的晶片背面微柱直冷。記憶體廠做的是 晶片級:在 HBM 出廠前就把導熱路徑埋進去,外形尺寸不變,客戶的封裝設計幾乎不用改。

有個有點諷刺的地方:Base Die 會變火爐,部分原因正是它升級成了台積電的邏輯晶片。SK 海力士說轉用台積電製程,是為了「在有限空間塞進更多功能」;C-HBM4E 還要把記憶體控制器搬進來。功能越多、電壓再降,總功率密度還是往上走。台積電讓 HBM 更聰明,記憶體廠就得替它的熱負責。

還缺什麼/待核

  • ICE 與 HPB 的數量、尺寸與位置都未公開;30% 熱阻與 35% 峰值溫度是各自官方數字,比較基準不同,不能直接比誰比較強。
  • HBM5 量產時間:Tom's Hardware 說兩家都不會早於 2028 年,ETNews 引述 SK 海力士路線圖為 2029 年。
  • KAIST 路線圖推估 HBM5 單顆約 100W,屬學界預測;文中熱阻表與 GPU 平均功率密度為作者簡化估算。

想看台積電那一層「中央空調」怎麼做,可以看我們前一篇:台積電晶片內水冷原理:微柱直冷 5.3kW 怎麼做到?

延伸影片

AI資料中心為什麼也需要SST?192kW供電危機!從電動車快充看懂高功率電力AI資料中心為什麼也需要SST?192kW供電危機!從電動車快充看懂高功率電力

HBM 的熱是 AI 機櫃功率密度飆升的縮影。這支影片從電動車快充講到 AI 資料中心 192kW 機櫃的供電難題,電進去多少,熱就要出來多少。

SK 海力士把導熱柱插在熱點上,三星在旁邊開煙囪,你覺得哪一種比較好量產?留言聊聊。

資料來源:SK 海力士新聞室 2026/5/26(iHBM);ETNews 2026/10/22;Tom's Hardware、The Elec、Korea Herald 對三星 Computex 2026 HBM5/HPB 的報導;ServeTheHome 對三星 Hot Chips 2026 Base Die 簡報的整理;TrendForce、TechPowerUp 對台積電 HBM4/C-HBM4E Base Die 的報導。熱阻表、溫升與功率換算為作者自行估算。
本文發布於 vkinngworld,YouTube 頻道 @vkinng。
原始貼文在這:https://www.facebook.com/1147074221177116/posts/1166786139205924
我們每天在粉專拆解半導體與 AI 新聞,歡迎來追蹤、一起討論:PLC 粉絲專頁

沒有留言:

張貼留言