近兩年大家都在聊 AI,幾乎每天都有新模型、新 GPU、新晶片,好像只要多買幾張 GPU,就能打造世界最強 AI。
但真正的大型 AI 資料中心,其實早就遇到另一個更現實的問題。
不是 GPU 不夠快,而是大家擠在一起太熱了。
想像一下,GPU 就像一群超跑,每台都能跑 300 公里,但如果全部擠進一條只有兩線道的高速公路,再快也只能一起塞車。
因此,AI 時代真正的瓶頸,開始從「算力」慢慢變成「資料怎麼搬」、「熱怎麼散」。
而最近最熱門的兩條技術路線,就是 CPO(Co-Packaged Optics) 與 XPO(External Pluggable Optics)。
AI 資料中心真正卡住的是什麼?
以前資料中心最大的問題,是 CPU 不夠快。
後來變成 GPU 不夠多。
現在則變成:
GPU 很快,但資料搬不過去。
AI 模型越來越大,一個機櫃可能有數十甚至上百顆 GPU,每秒要交換數十 TB 的資料。
傳統銅線到了高頻高速後,就像老舊水管。
流量越大:
- 訊號衰減越嚴重
- 耗電越高
- 發熱越驚人
- 傳輸距離越短
因此大家開始大量導入光通訊。
但新的問題又來了……
光模組到底該放哪裡?
這就是 CPO 與 XPO 最大的差異。
什麼是 CPO?
CPO,全名 Co-Packaged Optics。
意思就是:
把光學模組直接放到交換 ASIC 旁邊。
以前資料流程像這樣:
交換晶片 → PCB → 電路 → 插槽 → 光模組
每走一步,都會耗電、延遲、發熱。
CPO 則直接把光模組搬到晶片隔壁。
好比原本住隔壁縣市,現在直接搬到同一棟公寓。
優點非常明顯:
- 電訊號距離縮短
- 功耗降低
- 延遲更低
- 可支援超高頻寬
因此,許多人認為 CPO 是未來 3.2T、6.4T 交換機的重要方向。
那 XPO 又是什麼?
XPO(External Pluggable Optics)可以理解成:
保留可插拔光模組,但重新設計整體架構。
它不像 CPO 那樣,把光模組焊死在交換晶片旁。
而是把高速電訊號縮短,同時保留模組可更換、可維修的特性。
換句話說:
兼顧效率,也兼顧工程師的人生。
因為資料中心最怕的不是設備壞掉,而是:
「壞了一個光模組,結果整台交換機都要送修。」
CPO 最大的優點
第一,是功耗最低。
高速 SerDes 越短,耗電越少。
第二,是訊號品質最好。
少了許多 PCB 傳輸損耗。
第三,是未來頻寬最容易提升。
尤其當交換 ASIC 邁向 102.4Tbps、204.8Tbps 時,CPO 幾乎成為最具潛力的方案。
CPO 最大的缺點
但天下沒有白吃的午餐。
最大的問題就是:
維修。
以前光模組壞了,只要抽出來換新的。
現在如果光模組就在 ASIC 旁邊……
工程師只能苦笑:
「不好意思,整台一起拆。」
除此之外:
- 生產成本高
- 封裝技術複雜
- 散熱設計更困難
- 良率要求極高
因此,目前仍主要應用於超大型 AI 資料中心。
XPO 為什麼開始受到重視?
近一年,越來越多交換機廠商開始討論 XPO。
原因很簡單。
不是 CPO 不好。
而是 CPO 太強,也太難。
XPO 希望取得一個平衡。
它保留可插拔模組,因此:
- 維修容易
- 升級方便
- 更換成本低
- 可沿用既有供應鏈
對雲端業者而言,這代表建置速度更快,也更符合實際營運需求。
XPO vs CPO 比較
| 比較項目 | XPO | CPO |
|---|---|---|
| 光模組位置 | 外接可插拔 | 與交換 ASIC 共封裝 |
| 功耗 | 較低 | 最低 |
| 延遲 | 低 | 最低 |
| 訊號品質 | 良好 | 最佳 |
| 維修性 | ★★★★★ | ★★☆☆☆ |
| 升級彈性 | 高 | 較低 |
| 製造難度 | 中 | 非常高 |
| 成本 | 較低 | 較高 |
| 散熱設計 | 容易 | 困難 |
| 適合場景 | 多數雲端資料中心 | 超大型 AI Cluster |
投資人該注意什麼?
如果把 AI 比喻成高速公路。
GPU 是超跑。
HBM 是油箱。
交換 ASIC 是交流道。
那麼 CPO 與 XPO,就是決定這條高速公路會不會天天塞車的重要設計。
未來 AI 的競爭,不再只是誰的 GPU 最快,而是誰能用最低功耗,把最多資料送到正確的位置。
因此,交換晶片、高速 SerDes、光通訊、矽光子(Silicon Photonics)、封裝技術與散熱方案,都有機會成為 AI 下一波的重要受惠族群。
所以,下次看到有人說 AI 就只是「買 GPU」時,你可以笑著告訴他:
真正的高手,早就在研究 GPU 後面的那條高速公路了。畢竟,再快的超跑,遇到塞車也只能乖乖踩煞車。

沒有留言:
張貼留言