如果說 AI 資料中心是一座超大型餐廳，那麼 GPU 和 TPU 就是廚房裡的主廚。
過去幾年，大家拼命替主廚加薪、換更大的鍋子、買更快的刀子，希望能煮出更多 AI 模型。
但最近 Google 發現一件很有趣的事情：
問題可能已經不是廚師煮得不夠快，而是服務生送菜送太慢。
於是代號 Humufish 的 TPU v9 還沒坐熱椅子，Google 又準備推出強化版 TPU——代號 Triggerfish。
而這次最大的受惠者之一，很可能就是聯發科。
究竟這條「扳機魚」到底厲害在哪裡？
它是在升級晶片，還是在替 AI 世界偷偷改寫遊戲規則？
讓我們用一般人聽得懂的方式聊聊這件事。
AI 世界最大的敵人，其實不是算力不夠
很多人以為 AI 晶片的競爭只有一件事：
誰的 TOPS 比較高。
誰的 FLOPS 比較猛。
誰就贏。
但真實世界其實沒那麼簡單。
假設你找來全世界最快的跑車。
最高時速 400 公里。
結果你把它開進台北市上班時間的忠孝東路。
會怎樣？
答案是：
一樣塞車。
AI 晶片也是如此。
現在的 TPU、GPU 已經強到離譜。
真正卡住它們的反而變成：
CPU Wall（CPU牆）
以及
Memory Wall（記憶體牆）
什麼叫 CPU Wall？
可以把 CPU 想成餐廳經理。
GPU 或 TPU 則是廚師。
廚師切菜超快。
炒菜超快。
煮飯超快。
但每做一道菜都要等經理下指令。
結果廚師有一半時間都在發呆。
這就是 CPU Wall。
當 AI 模型越來越大時：
- 排程
- 控制流程
- Token管理
- Agent協調
都需要 CPU 參與。
CPU 開始變成瓶頸。
就像一位經理要同時管理三萬個廚師。
累死。
Memory Wall 更可怕
如果 CPU Wall 是經理太忙。
Memory Wall 就是倉庫太遠。
想像你正在做蛋炒飯。
每打一顆蛋都要跑去隔壁縣市拿。
會崩潰吧？
AI 推理也是一樣。
尤其是大型語言模型。
每生成一個 Token。
都要不斷調用：
- 權重
- Cache
- KV資料
如果資料放在遠方記憶體。
晶片就必須一直搬資料。
這種情況下：
80%的時間在搬東西。
20%的時間在計算。
就像搬家公司兼職當工程師。
Triggerfish 最重要的升級：SRAM 暴增
根據目前曝光資訊。
Triggerfish 最大亮點之一是：
片內 SRAM 提升到 Humufish 的 2～3 倍。
這是什麼概念？
如果把 HBM 想成大型倉庫。
SRAM 就是你桌上的抽屜。
你每天會用到的東西放抽屜。
不會放在倉庫。
因為拿起來快太多。
SRAM 速度通常比 HBM 更快。
但成本也高得多。
面積也大得多。
因此晶片設計師很少瘋狂堆 SRAM。
Google 願意這樣做。
代表它認為：
未來 AI 推理最大的瓶頸已經不是算力。
而是資料存取。
為什麼推理特別需要 SRAM？
訓練像蓋房子。
推理像接客服電話。
訓練時大量資料一次進來。
推理時則是不斷地：
「下一個字是什麼？」
「下一個 Token 是什麼？」
每次計算量不算特別大。
但存取頻率高到可怕。
如果每次都跑去 HBM 拿資料。
速度就慢。
成本也高。
因此更大的 SRAM 能讓：
- KV Cache
- 活躍參數
- Agent上下文
直接留在 TPU 內部。
減少來回搬運。
提升解碼效率。
降低延遲。
這對聊天機器人尤其重要。
HBM4 升級到 HBM4E
另一個大亮點是記憶體升級。
從 HBM4 提升至 HBM4E。
如果把 HBM4 比喻成高速公路。
HBM4E 就像把高速公路拓寬。
再增加匝道。
讓更多車輛同時通過。
未來大型 AI 模型動輒：
- 數千億參數
- 數兆參數
光是搬資料就能把頻寬吃光。
HBM4E 能提供更高頻寬。
減少資料等待。
進一步緩解 Memory Wall。
真正的大招：Simulation Die
如果 SRAM 是肌肉。
HBM4E 是血管。
那麼 Simulation Die 很可能就是大腦。
這也是市場最關注的部分。
它到底是什麼？
可以把它理解成：
內建在 TPU 裡的小型管理晶片。
有點像副駕駛。
主晶片專心計算。
Simulation Die 負責：
- 管理任務
- 協調運算
- 分配資源
- 控制流程
就像公司裡新增一位專案經理。
工程師終於不用一邊寫程式一邊開會。
AI Agent 時代的神兵利器
目前 AI 正從 ChatGPT 時代走向 Agent 時代。
未來 AI 不只聊天。
還會：
- 幫你訂機票
- 幫你比價
- 幫你寫程式
- 幫你管理文件
- 幫你執行任務
這代表很多 AI 模型需要同時合作。
例如：
Agent A 查資料。
Agent B 分析。
Agent C 做決策。
Agent D 執行。
這就像公司裡四個部門同時工作。
協調成本暴增。
Simulation Die 的價值就在這裡。
它能成為 TPU 內部的交通警察。
讓多個 Agent 更有效率合作。
Triggerfish 可能應用在哪裡？
1. Gemini
最直接受惠者。
就是 Google 的 Gemini。
Google Gemini
未來更大的上下文窗口。
更快回應速度。
更低推理成本。
都有機會受惠。
2. AI Agent
未來企業最需要的方向。
例如：
- 智慧客服
- 智慧助理
- 自動化辦公
這些工作都需要大量推理能力。
Triggerfish 正是為此而生。
3. 搜尋引擎
Google 的 AI Search 已逐漸取代傳統搜尋。
每次搜尋背後都要消耗推理資源。
推理成本下降。
Google 獲利能力自然提升。
4. 雲端 AI 服務
Google Cloud
企業客戶使用：
- 模型部署
- Agent平台
- AI API
都需要推理晶片支援。
Triggerfish 將成為 Google Cloud 的重要武器。
聯發科到底幫 Google 做什麼？
很多人以為聯發科只是代工設計。
其實不完全正確。
台積電負責製造。
聯發科主要負責 ASIC 設計服務。
MediaTek 的角色更像：
AI 晶片建築師。
Google 負責提出需求。
聯發科負責把藍圖變成真正能量產的晶片。
工作可能包含：
- 晶片架構優化
- I/O設計
- 記憶體介面
- 封裝協同設計
- 功耗管理
- 驗證測試
簡單說：
Google 出考題。
聯發科負責解題。
對聯發科獲利有什麼幫助？
這可能比很多人想像的大。
原因有三個。
第一：AI ASIC 毛利率高
客製化 AI 晶片通常單價遠高於手機晶片。
一個大型 TPU 專案。
價值可能抵過大量手機 SoC 訂單。
第二：建立技術護城河
當 Google 願意持續下單。
代表聯發科已進入全球頂級 AI ASIC 供應鏈。
這種資格非常珍貴。
未來可能吸引：
- Meta
- Microsoft
- Amazon
等雲端巨頭合作。
Meta
Microsoft
Amazon
第三：擺脫手機市場循環
聯發科過去營收高度依賴手機。
但手機市場成長已趨緩。
AI ASIC 則是高速成長產業。
若能持續取得 Google TPU 訂單。
將大幅提升長期成長空間。
結論：Triggerfish 的真正意義，不是更快，而是更聰明
許多人看到新 TPU。
第一反應是：
速度提升幾倍？
TOPS 增加多少？
但 Triggerfish 真正有趣的地方其實不是肌肉。
而是大腦。
Google 顯然已經發現：
未來 AI 戰爭不只是比誰算得快。
而是比誰能更有效率地管理資料、協調 Agent、降低推理成本。
更大的 SRAM 解決 Memory Wall。
HBM4E 提升資料流量。
Simulation Die 則像替 TPU 裝上一位全天候專案經理。
這代表 AI 晶片的競爭正從「暴力堆算力」進入「智慧化管理算力」的新階段。
而聯發科若能持續參與 Google TPU 專案，得到的不只是訂單，更是進入全球 AI 基礎建設核心圈的門票。
或許幾年後回頭看，Triggerfish 最重要的成就不是讓 AI 跑得更快，而是讓 AI 終於不用像一群天才工程師擠在沒有主管的辦公室裡，各自忙到撞牆。
沒有留言:
張貼留言