2026年11月16日 星期一

混合鍵合原理:四代鍵合技術一次看懂,為什麼邏輯晶片先用、HBM 卻被 775 微米卡住

混合鍵合原理:四代鍵合技術一次看懂,為什麼邏輯晶片先用、HBM 卻被 775 微米卡住

四代鍵合技術間距對照:打線、覆晶、熱壓鍵合到台積電 SoIC 混合鍵合示意圖

重點先講:粉專上一篇拆了鍵合技術的四代演進,最後留了一個問題:混合鍵合會先在 AI 邏輯晶片普及,還是先在 HBM 普及?到 2026 年底,答案已經很清楚,是邏輯晶片。台積電 SoIC 已量產 6 微米間距,HBM4 卻因為 JEDEC 放寬高度上限,繼續用微凸塊。這篇用間距把四代算一遍,再講 HBM 為什麼反而慢了。

原始貼文在這:FB:鍵合技術已經走到第四代

發生了什麼

  • 台積電在 2026 北美技術論壇公布 SoIC 間距路線:2023 年 9 微米、2025 年 6 微米量產、2029 年 4.5 微米,2029 年要做到 A14 疊 A14(Tom's Hardware、TrendForce)。
  • Intel 的混合鍵合 Foveros Direct 在 2026 上半年隨 Clearwater Forest(Xeon 6+)量產,間距 9 微米,第二代目標 3 微米。
  • 三星的 3D Cube-H 混合鍵合間距約 6 微米,目標 2027 年初完成開發與設計套件(ZDNet,TrendForce 11/11 引述)。
  • HBM 這邊:JEDEC 把 HBM4 封裝高度上限從 720 微米放寬到 775 微米,16 層 HBM4 用現有微凸塊就塞得下。SK 海力士在 Hot Chips 2026(8 月)表示混合鍵合來不及上 HBM4E,最快 HBM5;Counterpoint 預估全面量產約 2029~2030 年。
一句話比喻:
打線=從房子四周牽電線進來。
覆晶=整片地板鋪插座。
熱壓鍵合=插座改用銅柱撐住,不怕熱一軟就黏在一起。
混合鍵合=連插座都拿掉,兩層樓板直接焊成一塊。

工程重點 1:間距縮一半,接點多四倍

接點是排成方格的,所以每平方毫米能放的數量大約是 (1000/間距)²。這樣算就看得出每一代差多少(方格估算,實際佈局會略少):

世代典型間距每 mm² 接點(估)
覆晶錫球(早期)150 µm約 44
熱壓鍵合微凸塊40 µm約 625
HBM 微凸塊(今日)約 30 µm約 1,100
SoIC 第一代9 µm約 12,300
SoIC 現在6 µm約 27,800
SoIC 20294.5 µm約 49,400
Foveros Direct 二代3 µm約 111,000

從 40 微米到 9 微米,接點多了約 20 倍。接點多,晶片之間就能用更多條、更短、更慢但更省電的線平行傳資料。台積電自己的說法是,SoIC 3D 互連比 CoWoS 2.5D 密度高 56 倍、能效高 5 倍。

工程重點 2:為什麼凸塊縮到 10 微米就做不下去

錫一加熱就會流。間距越小,相鄰兩顆錫帽越容易溢流短路;晶片越薄,加熱時越容易翹。熱壓鍵合用銅柱加薄錫帽、從上方壓平,才把間距撐到二、三十微米(三星說現有 TC 鍵合最小約 25 微米)。再往下,乾脆不要錫:混合鍵合把兩面磨到極平,氧化矽先在常溫貼合,退火時銅墊膨脹、銅對銅接起來。代價是表面平整度和微粒控制,一顆灰塵就是一個空洞,這也是三星主管今年在 ISMP 點名的兩大難關。

工程重點 3:邏輯晶片先用,因為它只疊一兩層

邏輯晶片要的是密度和頻寬,而且通常只疊一到兩層,例如上一篇的 AMD Venice-X 把快取墊在核心底下。HBM 是 12 到 16 層、未來 20 層,每一層介面都要成功。用個簡單算例(示意,非實際良率):每層鍵合良率 99%,16 層要過 15 個介面,整疊只剩約 86%;每層 99.5% 也只有約 93%。疊越多層,混合鍵合的良率門檻越嚇人,成本也越高。

工程重點 4:HBM 被 775 微米救了一次,但 20 層躲不掉

HBM 高度要跟旁邊 775 微米厚的邏輯晶圓對齊,散熱片才壓得平。高度上限放寬後,SK 海力士的 MR-MUF、三星和美光的 TC-NCF 都還能做 16 層,只是每片 DRAM 要磨到約 30~50 微米。但到 20 層,SK 海力士的資料顯示混合鍵合能讓每片晶粒厚約 24%、熱阻降約 35%、間距從 30 微米縮到 18 微米以下。業界也在討論把 20 層的高度再放寬到 825~900 微米,每放寬一次,微凸塊就多活一代。延伸閱讀:繞開 HBM 的兩條路。

還缺什麼/待核

  • SoIC 6 微米已量產用在哪些客戶產品,台積電沒有逐一公布。
  • HBM4E 會不會有部分產品先導入混合鍵合,各家說法不同:設備商說 2027 年 16 層 HBM4E,SK 海力士則說來不及。
  • JEDEC 對 20 層的高度上限還在討論,825~900 微米不是定案。
  • 上表接點數是方格估算,用來比較量級,不是實際產品的 I/O 數。

延伸影片

充電10分鐘跑300公里?電動車升級 800V,背後功臣竟是這顆「黑心臟」!充電10分鐘跑300公里?電動車升級 800V,背後功臣竟是這顆「黑心臟」!

第一代打線其實沒有退場:電動車的功率模組至今仍大量用粗鋁線打線。這支影片講 800V 平台背後的功率晶片。

你覺得 20 層 HBM 會逼記憶體廠全面換混合鍵合,還是 JEDEC 會再放寬一次高度?留言聊聊。

資料來源:Tom's Hardware〈The current state of Hybrid Bonding in 2026〉、Tom's Hardware Hot Chips 2026 SK 海力士報導、Semiconductor Engineering〈HBM4 Sticks With Microbumps〉、TrendForce(2026-01-13、2026-11-11)、Samsung Foundry 3D Cube-H 頁面;FB 粉專原文。
原始貼文在這:https://www.facebook.com/1147074221177116/posts/1162265376324667
本文由 vkinngworld/@vkinng 整理。半導體新聞每天在粉專拆,下一篇會比台積電、Intel、三星的混合鍵合軍備競賽,歡迎來留言:FB 粉專「PLC」

2026年11月15日 星期日

AMD Venice-X 3D V-Cache原理:快取搬到核心底下,台積電SoIC怎麼撐住SRAM微縮牆

AMD Venice-X 3D V-Cache原理:快取搬到核心底下,台積電SoIC怎麼撐住SRAM微縮牆

AMD Venice-X 3D V-Cache 快取從核心上方改到下方,台積電 SoIC 混合鍵合示意圖

重點先講:AMD 這次發表的 EPYC 9006X「Venice-X」,快取容量沒有變大,還是 1152MB;真正的升級是快取的位置。以前 3D V-Cache 蓋在 CPU 核心上面,現在改墊到核心底下,伺服器 X3D 第一次不用為了大快取犧牲時脈。能這樣搬,靠的是台積電 SoIC 混合鍵合;必須這樣搬,是因為 SRAM 在平面上已經快縮不動了。

原始貼文在這:FB:AMD X3D,是台積電 3D DRAM 最好的試金石(SRAM 為什麼貴又難縮,粉專也拆過:台積電,才是 SRAM 之王)

發生了什麼

  • 11 月 10~11 日,AMD 預告 EPYC 9006X「Venice-X」:最多 96 顆 Zen 6 核心、192 執行緒、1152MB L3,鎖定 EDA 模擬、HPC 這類吃快取的工作,2027 下半年上市,微軟已說會用在 Azure HXv2 執行個體。
  • 時脈:Tom's Hardware、Wccftech 報導最高 5.3GHz;VideoCardz 的整理寫約 5.15GHz(粉專原文也用 5.15GHz)。正式規格要等上市前公布,但兩個數字都遠高於上一代 Genoa-X(EPYC 9684X)的 3.7GHz。
  • Wccftech 拆算:8 個 CCD,每個 CCD 本身 48MB L3,再加 96MB 堆疊快取,合計 384MB+768MB=1152MB。
  • 平台:SP7 插槽、16 通道記憶體,支援 MRDIMM-12800,每顆約 1.6TB/s 記憶體頻寬、96 條 PCIe 6.0。Zen 6 CCD 是 AMD 第一個在台積電 N2 投片的 HPC 產品。
  • 伺服器版 X3D 上一次出現是 2023 年的 Genoa-X,Turin 世代整整缺席一代。
一句話比喻:
舊做法=在爐子上蓋一條棉被(快取壓在核心上,熱要穿過快取才散得掉)。
新做法=把儲藏室搬到地下室(快取墊在底下,核心直接貼散熱蓋)。
東西一樣多,但廚房不再悶熱,爐火可以開大。
工程重點 1:為什麼「放上面」會卡時脈

CPU 的熱幾乎都來自核心。第一代、第二代伺服器 X3D(Milan-X、Genoa-X)把 SRAM 晶片疊在核心上方,熱要先穿過那層矽與鍵合介面才到散熱蓋,等於多一層熱阻;SRAM 本身也怕熱。結果就是電壓、時脈都要壓低,Genoa-X 加速只有 3.7GHz,很多客戶寧可買不疊快取的高時脈版。桌機的 Ryzen 9000X3D 先把順序反過來,快取墊在下面、核心在上面,這次 Venice-X 把同一招帶進伺服器,大快取和高時脈終於不用二選一。

工程重點 2:台積電 SoIC 混合鍵合,凸塊直接拿掉

一般 3D 堆疊用微凸塊(micro bump)焊在一起,間距大約幾十微米。SoIC 用的是混合鍵合:兩片晶片表面磨到極平,銅墊對銅墊、氧化層對氧化層直接接合,沒有焊料。AMD 公布的數字是,相比微凸塊 3D,互連密度超過 15 倍、互連能效超過 3 倍;第一代 3D V-Cache 的連接間距約 9 微米。快取改放底下後,核心的電源與訊號必須穿過下面那顆快取晶片的 TSV 才接到封裝,這對 TSV 密度、供電壓降和鍵合良率要求更高,這也是只有 SoIC 這級技術做得到的原因。

工程重點 3:SRAM 微縮撞牆,平面塞不下只能往上

SRAM 一個位元要 6 顆電晶體,速度快但很佔面積。更麻煩的是它越來越難縮:台積電 N3E 的高密度 SRAM 單元約 0.021 平方微米,和 N5 幾乎一樣;N2 靠 GAA 縮到約 0.0175 平方微米(台積電 IEDM 2024 數據),一代才小約兩成,遠不如邏輯電路。所以把大快取做在最貴的 N2 核心晶片上很不划算,把快取拆到另一顆晶片、用較成熟的製程做,再疊上來,成本和良率都比較好算。這就是粉專說「X3D 是試金石」的意思:記憶體貼著運算放,方向已經被證明是對的。

工程重點 4:下一步,疊的會不會從 SRAM 換成 DRAM

Venice-X 的快取總量和兩年多前的 Genoa-X 一樣,說明單靠 SRAM 往上疊,容量成長很慢。要再大一個數量級,就得換密度更高的記憶體:之前寫過的台積電 2T0C拿掉電容、可以長在邏輯上方;Fractile 把 DRAM 疊在運算晶片上也是同一條思路。不管最後疊的是 SRAM、2T0C 還是 DRAM,都需要 SoIC 這類混合鍵合,台積電在每一條路線上都賣得到鏟子。

還缺什麼/待核

  • Venice-X 最高時脈有 5.3GHz 與約 5.15GHz 兩種報導,TDP、SKU 數量、底座時脈都未公布。
  • AMD 沒說 Venice-X 堆疊快取晶片用哪個製程,以及鍵合間距是否比第一代更小。
  • 「快取放底下」帶來的散熱好處,桌機 Ryzen 9000X3D 已有實測;伺服器 96 核心滿載下效果多大,要等 2027 年實測。
  • 台積電是否、以及何時把 2T0C 疊上邏輯晶片商用,官方沒有證實。

延伸影片

黃仁勳說 AI 的盡頭是電!微型核能 vs 燃料電池,誰能拯救算力荒?黃仁勳說 AI 的盡頭是電!微型核能 vs 燃料電池,誰能拯救算力荒?

快取貼著核心放,最大的好處之一是少搬資料、少耗電。資料中心的電力壓力,這支影片講得更完整。

你覺得下一代會繼續疊 SRAM,還是直接換成 2T0C 或 DRAM?留言聊聊。

資料來源:Tom's Hardware(2026-11-11)、Wccftech(2026-11-10)、VideoCardz、ComputerBase 對 AMD EPYC 9006 系列的報導;台積電 IEDM 2024 N2 SRAM 數據;AMD 3D V-Cache 技術資料;FB 粉專原文。
原始貼文在這:https://www.facebook.com/1147074221177116/posts/1160610763156795
本文由 vkinngworld/@vkinng 整理。半導體新聞每天在粉專拆,歡迎來留言:FB 粉專「PLC」

2026年11月14日 星期六

繞開HBM的AI晶片:Fractile把DRAM疊上去、Axelera改用LPDDR6,兩條路架構比較

繞開HBM的AI晶片:Fractile把DRAM疊上去、Axelera改用LPDDR6,兩條路架構比較

繞開HBM的兩條路:Fractile 3D堆疊DRAM與Axelera LPDDR6架構比較圖

重點先講:AI 推論的瓶頸越來越不是算力,而是記憶體搬資料的速度。現在的標準答案是 HBM+台積電 CoWoS,但 HBM 又貴又缺、CoWoS 產能被大廠包光。這週兩家新創給了兩個不同答案:Fractile 把 DRAM 往上疊,Axelera 把 HBM 換成 LPDDR6。這篇把兩條路拆開,用數字看各自賭的是什麼。

原始貼文在這:FB:Fractile 募了 7.2 億美元,就是要繞開 HBM!(Axelera 那篇也在粉專:拒絕 HBM 綁架與水冷天價)

發生了什麼

  • 11 月 11 日,英國 Fractile 完成 7.2 億美元 C 輪,投後估值約 70 億美元,由 Thrive、Founders Fund、Lightspeed、Redpoint 共同領投,Alphabet 旗下 CapitalG 與英國主權 AI 基金參與。累計募資約 9.55 億美元。
  • Fractile 的做法:不用 HBM,把標準 DRAM 直接封裝在邏輯晶片正上方,宣稱頻寬遠高於 HBM、容量遠大於 SRAM。首批晶片與系統預計 2027 年出貨。
  • Bloomberg 8 月報導 Anthropic 初步同意採購約 2.5 億美元 Fractile 晶片(雙方未證實)。
  • 11 月 12 日,荷蘭 Axelera AI 公布第三代架構 Titania:雙小晶片封裝、2.5 PFLOPS(FP8)、400 W、128 GB LPDDR6、2,458 GB/s。2027 年 Q3 量產,已有超過 3 億美元客戶部署承諾。
一句話分清楚:
HBM+CoWoS=記憶體放在晶片「旁邊」,靠中介層上上千條線並排傳。
Fractile=記憶體疊在晶片「上面」,垂直連接,距離最短。
Axelera=記憶體還在旁邊,但換成便宜大容量的 LPDDR6,靠架構把每一 bit 頻寬用好。
工程重點 1:推論為什麼卡在記憶體頻寬

大模型逐字生成時,每吐一個 token 都要把用到的權重從記憶體讀一遍。所以單一使用者的速度上限,大約是 記憶體頻寬 ÷ 每個 token 要讀的位元組數。作者換算:以總參數 6,710 億、每 token 啟用約 370 億參數的 MoE 模型(DeepSeek-V3 等級)為例,FP4 下每個 token 約讀 18.5 GB。Titania 單顆 2,458 GB/s 的理論上限約每秒 130 個 token;AX8 整台 19.6 TB/s 約 1,060 個。實際會被通訊、KV cache 與利用率打折,但方向很清楚:頻寬決定速度,容量決定塞不塞得下。

工程重點 2:Fractile 賭的是「距離」,本質是 SoIC 式 3D 堆疊

HBM 在 CoWoS 上是並排放,資料要橫跨中介層走幾毫米。Fractile 把 DRAM 直接蓋在運算核心正上方,路徑縮到幾微米,連接點可以鋪滿整個晶片面積,而不是只用晶片邊緣。概念上跟 AMD 3D V-Cache(台積電 SoIC 混合鍵合把 SRAM 疊在 CPU 上)同一家族,只是疊的從 SRAM 換成容量大得多的 DRAM。昨天華為韜定律那篇講的混合鍵合,在這裡變成記憶體的解法。Fractile 沒公布具體頻寬數字與代工夥伴,這兩點要等 2027 年產品。

工程重點 3:Axelera 賭的是「容量」,而且繞開封裝排隊

LPDDR6 單顆頻寬比 HBM 低,但它是手機、AI PC、車用的標準品,走一般封裝,不用排 TSV 堆疊和 CoWoS。美光曾說同樣位元數的 HBM3E 吃掉的晶圓約是 DDR5 的 3 倍,所以同一片晶圓做成標準 DRAM 能多出不少容量。Axelera 的算盤是 MoE 模型總參數大、每次啟用小:作者換算,1.6 兆參數在 FP4 約 800 GB,AX8 的 1 TB 剛好塞得下還留 KV cache 空間,而且整台 5~6 kW 氣冷,舊機房 15 kW 機櫃能放兩台。

工程重點 4:真正的三道關:熱、良率、產能

第一,DRAM 怕熱:JEDEC 規範超過 85°C 就要加倍刷新,漏電也變快;Fractile 把 DRAM 壓在最燙的運算晶片上,熱設計是生死題。第二,良率相乘:堆疊後壞一層就賠整顆,必須先篩出已知良品(KGD)。第三,產能:LPDDR6 一樣出自三星、SK 海力士、美光,只是能多源採購;粉專提到 Fractile 可能找力積電、華邦電這類客製 3D DRAM 廠,目前是業界推測,沒有官方證實。至於台積電:HBM 路線越熱,CoWoS 越吃緊;3D 堆疊路線越熱,SoIC 類技術越吃香,兩邊它都在牌桌上。

還缺什麼/待核

  • Fractile「比現有晶片快 100 倍、能耗省 90%」與 Axelera「每瓦吞吐 7 倍、TCO 20 倍」都是公司說法,Axelera 的數字官方註明為模擬,兩家都還沒有量產實測。
  • Fractile 未公布每顆晶片的頻寬、容量、製程與代工廠。
  • 130/1,060 token/s、800 GB 是作者用公開規格做的理論上限換算,不是實測。
  • 與力積電、華邦電合作屬推測,未見官方消息。

延伸影片

黃仁勳說 AI 的盡頭是電!微型核能 vs 燃料電池,誰能拯救算力荒?黃仁勳說 AI 的盡頭是電!微型核能 vs 燃料電池,誰能拯救算力荒?

Axelera 標榜「不用水冷、舊機房就能跑」,背後就是這支影片講的 AI 用電壓力。

你覺得 2027 年誰會先證明自己:往上疊的 Fractile,還是換記憶體的 Axelera?還是 HBM+CoWoS 根本不會被撼動?留言聊聊。

資料來源:TechCrunch、SiliconANGLE、SiliconReport(引 Reuters、Bloomberg、FT),Balderton 與 Lightspeed 投資公告(2026-11-11);Axelera AI 新聞稿與 Titania 產品頁(2026-11-12);FB 粉專原文。標示「作者換算」者非官方數字。
原始貼文在這:https://www.facebook.com/1147074221177116/posts/1159830179901520
本文由 vkinngworld/@vkinng 整理。半導體新聞每天在粉專拆,歡迎來留言:FB 粉專「PLC」