如果把現在的 AI 世界比喻成一座超大型城市，那 GPU 就像數十萬名超級工程師。
問題是，再厲害的工程師，如果每天花三個小時塞在高速公路上，工作效率還是很差。
近兩年大家都在討論 GPU。
去年討論 HBM。
今年開始，真正的主角慢慢變成另一群人——交換器（Switch）與光通訊。
因為大家突然發現：
AI 算力不是卡在 GPU，而是卡在 GPU 彼此講話。
而 NVIDIA 最新公布的 Quantum-X Photonics CPO（Co-Packaged Optics，共封裝光學）交換器，就是準備把這條「高速公路」重新蓋一次。
但故事沒有這麼簡單。
因為 NVIDIA 畫出藍圖之後，真正要把產品大量生產的人，是台積電。
而台積電推出的 COUPE（Compact Universal Photonic Engine），未來很可能就是整個 CPO 生態系的重要拼圖。
只是……
理想很豐滿，良率很骨感。
AI 為什麼突然需要 CPO？
很多人會問：
不是光纖早就在用了嗎？
沒錯。
但以前的光纖長這樣：
GPU → PCB → 電線 → Connector → 光模組 → 光纖
中間經過一大堆轉換。
每一次轉換，都像高速公路多一個收費站。
資料一直停。
一直等。
一直耗電。
GPU 越快，等待時間反而越多。
尤其到了 AI 超級資料中心。
現在一個 Rack 裡面可能就有幾百顆 GPU。
未來甚至上千顆。
資料交換速度早已突破傳統電訊號可以舒服處理的範圍。
於是大家開始想：
既然最後都要變成光，那乾脆一開始就在晶片旁邊發光好了。
這就是 CPO。
CPO 到底是什麼？
可以把它想成：
以前高速公路交流道離家十公里。
現在直接蓋到你家客廳。
光引擎（Photonic Engine）直接封裝在交換 ASIC 旁。
不用再走長長 PCB。
不用一直做電光轉換。
好處很多：
第一個，就是省電。
第二個，就是延遲降低。
第三個，就是頻寬可以一直往上堆。
這也是 NVIDIA Quantum-X Photonics 最重要的設計理念。
以前交換器旁邊插滿一整排光模組。
未來可能直接整合進封裝。
整台交換器長得完全不同。
Quantum-X Photonics 到底改變了什麼？
以前交換器像是一台主機。
旁邊插滿 USB。
每一個 USB 都是一顆光模組。
速度越快。
USB 越多。
耗電越高。
故障率越高。
而 Quantum-X Photonics 就像：
直接把 USB 焊進 CPU 裡。
整個路徑縮短。
速度提升。
能源效率提高。
更重要的是：
AI Factory 開始可以做到真正的大規模 Scale-Out。
未來數十萬顆 GPU 可以更有效率地互相連線。
這也是 NVIDIA 一直強調：
未來瓶頸不是 GPU。
而是 Network。
為什麼這件事會重組光通訊供應鏈？
因為以前大家分工很明確。
交換器公司做交換器。
光模組公司做光模組。
封裝公司做封裝。
現在 CPO 出來之後。
大家突然全部坐到同一張桌子。
很多公司的工作開始重疊。
例如：
以前：
交換器 → Broadcom
光模組 → Coherent、Lumentum
封裝 → OSAT
現在：
交換 ASIC
光引擎
矽光子
先進封裝
全部整合。
於是供應鏈開始重新洗牌。
第一個受影響的是光模組廠
以前最重要的是 pluggable optics。
就是插拔式光模組。
今天壞掉。
拔掉。
換新的。
非常方便。
但是 CPO 呢？
直接封裝。
不能拔。
這意味著：
未來高階 AI 網路，插拔式光模組需求可能下降。
不是完全消失。
而是高階市場開始轉向。
因此不少光模組廠開始投入 Photonic Engine。
否則未來可能只能做中低階產品。
第二個改變的是封裝廠
以前封裝主要是：
CPU
GPU
HBM
現在又多一個：
Photonics。
而且光學封裝比電子封裝麻煩很多。
因為光不能歪。
不能偏。
不能震。
不能熱。
一點點偏移。
光就打不到。
所以封裝精度要求變得非常恐怖。
第三個贏家就是台積電
很多人不知道。
其實台積電近年一直投入矽光子。
其中最重要的平台就是：
COUPE。
它不是交換器。
不是 GPU。
而是一種 Photonic Engine 整合平台。
簡單說：
幫客戶把電子晶片跟光學元件放在一起。
而且可以一起量產。
這也是未來 CPO 很重要的一環。
COUPE 為什麼重要？
大家可以把它想成：
以前電子世界。
大家只會焊 IC。
現在突然還要焊雷射。
焊光波導。
焊光纖。
全部一起焊。
難度直接跳級。
COUPE 的目的，就是建立一套可以大量製造的方法。
如果沒有量產平台。
CPO 永遠只是展示品。
但是真正的大魔王，其實叫做良率
半導體大家最怕什麼？
不是做不出來。
而是：
做得出來，但做十片只有六片能用。
CPO 更麻煩。
因為以前只有電子。
現在多了光。
電子 OK。
不代表光 OK。
光波導只要偏幾微米。
效率就掉。
雷射位置差一點。
功率下降。
整個封裝可能直接報廢。
因此：
一個元件失敗。
整顆交換器可能都失敗。
成本為什麼這麼高？
主要有四個原因。
第一：組裝流程更多
以前只有電子封裝。
現在：
電子＋光學＋雷射＋光纖。
每一步都是成本。
第二：設備超級昂貴
光學校正設備。
主動對位（Active Alignment）。
高精度量測。
全部都比一般封裝貴。
而且速度慢。
第三：測試時間變長
電子測一次。
光再測一次。
熱再測一次。
老化再測一次。
每一道都增加成本。
第四：報廢率高
電子封裝可以局部修。
光學很多時候不能修。
一偏掉。
整組重來。
為什麼台積電還願意做？
因為它知道未來市場在哪。
AI 不可能一直靠增加 GPU。
總有一天。
GPU 增加速度會輸給資料傳輸需求。
那時候：
Network 的重要性可能跟 GPU 一樣高。
甚至更重要。
所以台積電很早就開始布局：
SoIC
CoWoS
矽光子
COUPE
全部其實都是同一個故事。
把所有元件放得越近越好。
哪些供應鏈可能因此受惠？
未來 CPO 若開始大量普及，整個光通訊產業鏈有望出現新的受惠族群。
第一，矽光子相關廠商。
光波導、光學晶片、光引擎將逐漸成為高階 AI 網路不可或缺的元件，技術門檻也相對提高。
第二，先進封裝供應鏈。
具備高精度封裝、異質整合與熱管理能力的廠商，將在 CPO 時代扮演更關鍵的角色。
第三，高速交換器與網路晶片設計公司。
AI 資料中心持續擴大，交換 ASIC 的規格將持續升級，頻寬需求也將同步增加。
第四，雷射與光學元件供應商。
雖然傳統可插拔光模組市場可能受到影響，但高效能雷射、光耦合器與光學封裝元件的需求反而有望提升。
不過，市場也不會一夕之間全面翻轉。未來幾年，很可能是傳統可插拔光模組與 CPO 並存，高階 AI 資料中心率先採用，其他應用再逐步跟進。
CPO 真的會全面取代光模組嗎？
答案可能是：
短期不會，中長期值得期待。
原因很簡單。
資料中心不是新建一座城市，而是在舊城市旁邊慢慢擴建。
許多企業仍需要可維修、可替換的設計，因此可插拔光模組仍有其市場價值。尤其在企業網路、電信設備與中低速應用，成熟方案仍具備成本優勢。
但在超大型 AI 資料中心，當頻寬衝上每秒數百 Tb 等級時，CPO 的省電、低延遲與高密度優勢將愈來愈明顯。
最後，真正的戰場不是 GPU，而是「誰能讓 GPU 順利聊天」
AI 的競爭正在悄悄改變。
過去大家比的是：「我的 GPU 有多快？」
未來比的可能是：「十萬顆 GPU 能不能像同一顆 GPU 一樣順暢合作？」
NVIDIA 推出 Quantum-X Photonics，不只是推出一台新的交換器，而是宣告 AI 基礎建設正式進入「光通訊整合」的新階段；而台積電持續推進 COUPE 平台，則是在解決這場革命最現實的問題——如何把複雜的光學與半導體製程，真正做到可量產、可控制成本、可維持良率。
真正決定未來 AI 基礎建設勝負的，也許不是哪一家擁有最多 GPU，而是哪一家能把GPU、交換器、光引擎、封裝與散熱整合成一套穩定且高效率的系統。
畢竟，再聰明的 AI，如果每天都在等資料傳過來，就像一位頂尖主廚卻一直等不到食材送進廚房；真正決定餐廳能不能翻桌賺錢的，不只是主廚，而是整個物流系統。
未來的 AI 戰爭，拚的不只是算力，更是「光速」。而誰能先把光帶進晶片封裝、把成本降下來、把良率拉上去，誰就更有機會站在下一波 AI 浪潮的浪頭。這場競賽，才正要開始。
沒有留言:
張貼留言