顯示具有 B200 標籤的文章。 顯示所有文章
顯示具有 B200 標籤的文章。 顯示所有文章

2026年11月5日 星期四

CoWoS熱翹曲原理:輝達B200為何非液冷不可?關鍵是溫差,不是溫度

CoWoS熱翹曲原理:輝達B200為何非液冷不可?關鍵是溫差,不是溫度

重點先講:大家都說 B200 要液冷是因為「太燙」。這只說對一半。真正讓工程師睡不著的,是台積電 CoWoS 封裝裡好幾種材料熱膨脹不一樣:每次 GPU 從待機衝到滿載再降回來,封裝就被「拉一次、放一次」。液冷把溫度壓低、把溫差壓小,等於幫焊點和微凸塊延壽。

發生了什麼

  • 功耗:HGX B200 每顆 GPU 可設定到 1kW(NVIDIA 文件);GB200 NVL72 裡的 B200 最高約 1,200W、GB300 NVL72 的 B300 約 1,400W,而且 NVL72 沒有氣冷版(Barrack AI 整理)。
  • 2024 年 Blackwell 延遲時,SemiAnalysis 指出 CoWoS-L 裡 GPU 晶粒、矽橋、有機中介層與基板之間的熱膨脹係數(CTE)失配會造成翹曲,輝達因此改了上層金屬與凸塊設計(SemiAnalysis、3D InCites)。
  • 2026 年 10 月 OCP APAC,台積電先進封裝負責人何軍提到:材料越擠越近,「不匹配的梯度」累積應力;超過 5.5 倍光罩後,散熱和翹曲難度非線性上升,還舉了元件測試沒事、裝進客戶系統卻出現崩角與 low-k 脫層的案例(Simple Tech Trend 整理)。
工程重點 1:熱流密度,氣冷已經追不上

B200 是兩顆接近光罩極限的大晶粒。我假設兩顆合計約 1,600mm²,1,200W 平均下來約 0.75 W/mm²,也就是 75 W/cm²(作者估算,熱點還會更高)。這個熱流要穿過晶粒、導熱介面材料(TIM)、蓋板再到散熱器,每一層都有熱阻。氣冷的空氣比熱和導熱太差,只能靠更大的鰭片和更快的風扇硬撐;冷板液冷讓水直接貼著蓋板帶走熱,同樣功耗下晶片溫度可以低很多。

工程重點 2:真正的殺手是 CTE 失配

矽約 2.6 ppm/K,有機基板約 15 ppm/K,差約 12 ppm/K。5.5 倍光罩約 4,720mm²,等於邊長約 69mm 的正方形,角落離中心約 49mm。作者粗算:升溫 55K 時,矽和基板在角落的「自由伸縮差」約 32µm;壓到 35K 只剩約 20µm(未計底部填充膠等拘束,只說明量級)。對間距只有幾十微米的微凸塊來說,這是每天上百次的拉扯。焊點熱疲勞常用 Coffin-Manson 關係,以指數約 2 粗估,溫差從 55K 降到 35K,壽命約多 2.5 倍(作者估算)。

工程重點 3:溫度梯度,比平均溫度更危險

同一個封裝裡,GPU 核心最燙,旁邊的 HBM 堆疊相對冷,基板更冷。溫度不均勻,封裝就不是均勻膨脹,而是扭成「馬鞍形」或「笑臉、哭臉」形。這就是何軍說的「梯度」問題:平均溫度看起來還好,局部應力卻可能讓 low-k 介電層脫層、晶粒邊角崩裂。液冷的優勢在於熱容量大、流量可調,能把熱點和周邊的溫差拉近,而不只是把最高溫壓下來。

工程重點 4:下一步是把水道做進矽裡

台積電在 ECTC 2025 發表矽整合微冷卻器(IMC-Si),在 3.3 倍光罩的 CoWoS-R 上,用 40°C 進水、每分鐘 10 公升,可散掉最高 3.4kW(約 2.5 W/mm²);密封膠設計成可容忍封裝翹曲,並通過 2,000 次溫度循環測試(IEEE ECTC 2025)。這是展示技術,不代表 Blackwell 量產已採用。但方向很清楚:封裝越大,散熱就越要「長」在封裝裡。粉專 10/25 也用一句話講過這件事:FB 原文:B200 為什麼一定要用液冷。

還缺什麼/待核

  • 輝達和台積電沒有公開 B200 的實際翹曲量、凸塊間距或可靠度規格,本文溫差與壽命數字都是作者用公開材料參數做的量級估算。
  • 2024 年的 CTE 失配說法來自分析機構與媒體,輝達官方只承認改過光罩提升良率。
  • OCP 演講內容引用自第三方整理,非台積電官方逐字稿。

延伸影片

你以為 TSMC 的 CoWoS 只有一種嗎?其實是三種!你以為 TSMC 的 CoWoS 只有一種嗎?其實是三種!

揭秘 1mm 固態散熱黑科技:xMEMS 原理深度解析手機發燙救星?揭秘 1mm「固態散熱」黑科技

你覺得下一代 AI 晶片會走冷板、浸沒式,還是直接把水道做進矽裡?留言告訴我。

資料來源:NVIDIA HGX 文件、SemiAnalysis、3D InCites、IEEE ECTC 2025、OCP APAC 2026 整理、Barrack AI。標示「作者估算」者為本文自行計算,非官方數字。
本文由 vkinngworld/@vkinng 整理。這題在粉專討論很熱,歡迎來留言:FB 粉專「PLC」

2026年1月24日 星期六

【半導體科普】CoWoS 是什麼?為何 NVIDIA、AMD 都在搶?一次看懂台積電的先進封裝秘密

 


前言:AI 時代的真正瓶頸不是晶片,而是「封裝」

在生成式 AI 爆發的現在,大家都在討論 GPU 的算力有多強,NVIDIA 的股價又漲了多少。但你有沒有發現,新聞常常提到「產能不足」?其實,卡住出貨的瓶頸往往不是核心晶片本身,而是將這些晶片組裝在一起的技術——先進封裝(Advanced Packaging)。

而在這場封裝戰爭中,台積電的 CoWoS (Chip-on-Wafer-on-Substrate) 技術,就是那個讓 NVIDIA、AMD 甚至 Google 都排隊搶著要的「聖杯」。今天,我們就以自動化工程師的視角,深入淺出地拆解 CoWoS 到底是什麼?以及它旗下的 S、R、L 三種製程究竟有何不同。


一、 CoWoS 到底是什麼?五個字母的秘密

很多專有名詞看名字就能知道結構。CoWoS 也不例外,它的全名是 Chip-on-Wafer-on-Substrate。我們可以把它想像成一個「三層三明治」結構:

  1. 頂層 (Chip): 這是餡料。包含負責運算的邏輯晶片(如 GPU/CPU)以及負責存取資料的高頻寬記憶體(HBM)。

  2. 中層 (Wafer / Interposer): 這是夾層麵包,也是 CoWoS 的核心。我們稱為「中介層」。它負責提供超高密度的線路,讓頂層的 GPU 和 HBM 能夠像鄰居一樣快速溝通。

  3. 底層 (Substrate): 這是底層盤子。通常是 ABF載板,負責將封裝好的晶片連接到外部的電路板(PCB)上。

為什麼需要 CoWoS? 因為「摩爾定律」變慢了。要把晶片做得更小越來越難,成本也越來越高。於是工程師想出了一個辦法:「既然做不小,那我們就把它們『疊』起來,並且『拼』在一起。」 CoWoS 讓處理器和記憶體靠得非常近,大幅解決了傳輸速度(頻寬)的問題,這正是 AI 模型訓練最需要的。


二、 CoWoS 的三種型態:S、R、L 大解密

台積電的 CoWoS 並非只有一種,根據**「中介層(中間那層麵包)」的材質不同**,分為三種主要製程。這也是近期 NVIDIA 晶片世代交替的關鍵所在。



1. CoWoS-S (Silicon Interposer / 矽中介層)

  • 特點: 這是最經典、技術最成熟的版本。中間層使用一片完整的「矽晶圓」來製作。

  • 優勢: 矽的蝕刻技術非常成熟,線路可以做得極度細密,傳輸效能最好,散熱導熱性也佳。

  • 限制: 貴!而且受限於光罩尺寸(Reticle Limit)。簡單說,因為是用矽晶圓做的,它沒辦法做得太大,大概只能塞進一顆 GPU 加上 6 顆 HBM。

  • 代表產品: NVIDIA H100、AMD MI300。

2. CoWoS-R (RDL Interposer / 重佈線層)

  • 特點: 拿掉昂貴的矽中介層,改用有機材料的 RDL(重佈線層)來連接。

  • 優勢: 成本較低,且因為是有機材料,比較有彈性,不容易因為熱脹冷縮而破裂(可靠度高)。

  • 定位: 適合對成本敏感,但仍需要先進封裝的網通或邊緣運算產品。

3. CoWoS-L (Local Silicon Interconnect / 局部矽互連)

  • 特點: 它是 S 和 R 的混血兒,也是未來的主流。主體是有機載板(便宜、可做大),但在晶片與晶片需要高速溝通的「關鍵路口」,埋入小塊的矽橋(LSI)。

  • 優勢: 結合了有機載板「可做超大尺寸」的優點,與矽橋「高密度傳輸」的特性。這突破了 CoWoS-S 的光罩尺寸限制,可以把封裝面積做得比手掌還大!

  • 代表產品: NVIDIA Blackwell B200、GB200。


三、 從 H100 到 B200:為何 NVIDIA 轉向 CoWoS-L?

這是一個非常精彩的技術轉折。

在 H100 時代,NVIDIA 追求極致的穩定與成熟,選擇了 CoWoS-S。這也是為什麼 H100 的效能這麼強,但產能卻一直受限於台積電矽中介層產能的原因之一。

到了 Blackwell (B200) 時代,單一顆晶片已經不夠快了。NVIDIA 決定把兩顆大晶片「拼」在一起,變成一顆超級晶片。 這時候,傳統的 CoWoS-S 就遇到瓶頸了——它塞不下這麼大的面積!

於是,NVIDIA 轉向擁抱 CoWoS-L。透過 CoWoS-L 技術,台積電成功將兩顆運算晶片和 8 顆 HBM3e 記憶體封裝在同一個基板上,實現了 10 TB/s 的驚人傳輸速度。雖然 CoWoS-L 的製程複雜度更高、良率挑戰更大,但這是通往下一代 AI 算力的唯一道路。


結語:封裝工程師的黃金時代

看完這篇,你應該對 CoWoS 有了更深一層的認識。未來的晶片戰爭,不再只是比誰的奈米製程更先進(那是前段製程的事),更要比誰能把這些晶片封裝得更巧妙、更緊密(這是後段封裝的事)。

下一代,我們即將迎來 3nm 製程 與 HBM4 的結合,屆時 CoWoS-L 將會進化得更巨大、更複雜。作為一名自動化工程師,看著這些物理極限被一步步突破,實在是令人熱血沸騰!