2026年6月24日 星期三

當 AI 晶片像一座超級廚房:SRAM 是冰箱、CPU 是主廚、GPU 是外場,少了 SRAM 整間餐廳可能直接停業! #SRAM #AI晶片 #半導體 #CPU #GPU #TPU #人工智慧 #晶片設計 #快取記憶體 #NVIDIA #AMD #台積電 #科技新知 #AI投資 #是德是瑞是克



如果把現代晶片比喻成一家超大型餐廳,那麼 CPU 是主廚、GPU 是同時能炒上千盤菜的廚師團,而 TPU 則是專門處理 AI 大餐的特級料理機器人。

那 SRAM 是什麼?

它不是廚師,也不是客人,而是廚房旁邊那台超高速冰箱。

沒有它,所有食材都得跑到倉庫搬;有了它,廚師一轉身就能拿到需要的東西。

聽起來不起眼,但實際上 SRAM 可能是整個 AI 時代最被低估的重要技術之一。


SRAM 到底是什麼?

SRAM(Static Random Access Memory,靜態隨機存取記憶體)是一種高速記憶體。

它最大的特色有三個:

第一:速度超快

SRAM 的存取速度遠高於 DRAM。

當 CPU 或 GPU 需要資料時,SRAM 幾乎能立即提供。

就像:

  • SRAM = 冰箱
  • DRAM = 儲藏室
  • SSD = 倉庫

你煮飯時一定先拿冰箱裡的食材,而不是每炒一道菜就跑去倉庫搬貨。


第二:不用持續刷新

DRAM 需要不斷充電刷新。

SRAM 不需要。

因此延遲更低。

缺點則是:

每個儲存單元需要更多電晶體。


第三:超級昂貴

DRAM 一個記憶單元通常使用 1T1C(1個電晶體+1個電容)。

SRAM 則常見使用 6T(6個電晶體)。

因此:

  • 面積更大
  • 成本更高
  • 功耗控制更困難

所以 SRAM 不適合大量儲存資料。

它只適合存放最重要、最常使用的資訊。


SRAM 可以搭配哪些晶片?

答案是:

幾乎所有高效能晶片都需要 SRAM。

甚至可以說:

沒有 SRAM,就沒有現代運算。


CPU 與 SRAM

CPU 最依賴 SRAM。

例如:

L1 Cache

最靠近核心

容量通常幾十KB

速度最快


L2 Cache

容量數百KB到數MB

速度次快


L3 Cache

數十MB甚至上百MB

供多個核心共享


AMD 的 X3D 技術為例。

許多玩家願意多花錢購買處理器,不是因為時脈高多少,而是因為 Cache 更大。

而這些 Cache 本質上就是 SRAM。

換句話說:

很多時候玩家買的其實不是 CPU,而是一大塊超快 SRAM。


GPU 與 SRAM

GPU 更需要 SRAM。

原因很簡單:

GPU 有數千個核心同時工作。

如果每次都跑去 HBM 或 GDDR 記憶體抓資料,速度再快也會塞車。

因此 GPU 內部會配置:

  • L1 Cache
  • L2 Cache
  • Shared Memory
  • Register File

大量 SRAM 被塞進晶片內部。


NVIDIA 為例。

近年 GPU 面積越來越大。

其中相當大的比例其實是 SRAM。

很多人以為 AI 晶片都是運算單元在膨脹。

事實上 SRAM 增加的速度同樣驚人。


TPU 與 SRAM

AI 時代最依賴 SRAM 的其實可能是 TPU。

原因是:

AI 模型需要反覆讀取權重(Weights)。

如果每次都去 HBM 拿資料:

  • 延遲增加
  • 功耗增加
  • 頻寬不足

因此許多 TPU 會配置超大容量 SRAM。


例如:

Google TPU

許多設計理念都是:

盡可能把資料留在晶片內部。

不要一直往外搬。

因為搬資料的耗電量,往往比運算本身還高。


AI 時代為什麼 SRAM 越來越重要?

以前的晶片世界:

運算能力不足。

因此大家拼命增加 CPU 與 GPU 數量。


現在的 AI 世界:

運算能力已經強到離譜。

反而是資料搬運變成瓶頸。

有工程師開玩笑說:

AI 晶片最大的工作不是算數學,而是在搬資料。

而 SRAM 正是解決這個問題的重要武器。


設計 SRAM 有哪些地方要特別注意?

如果設計 CPU 像蓋房子。

那設計 SRAM 就像蓋停車場。

看似簡單。

其實處處都是學問。


第一個難題:面積

SRAM 很吃面積。

在先進製程中:

有時候超過一半晶片面積都被 SRAM 吃掉。

例如:

  • CPU Cache
  • GPU Cache
  • AI Buffer

都需要大量 SRAM。

因此工程師必須不斷平衡:

  • 容量
  • 面積
  • 成本

三者之間的關係。


第二個難題:功耗

許多人以為運算最耗電。

其實未必。

大量 SRAM 存取也可能非常耗電。

尤其 AI 晶片一天到晚都在:

  • 讀取
  • 寫入
  • 更新

因此 SRAM 功耗優化變成重要課題。


第三個難題:良率

當 SRAM 規模越大。

壞掉機率也越高。

假設:

100億個 SRAM Cell。

只要其中極少數出問題。

整顆晶片可能報廢。

因此設計時常會加入:

ECC

錯誤校正機制。


Redundancy

備援單元。

壞掉後自動替換。


這也是為什麼 SRAM 設計非常考驗技術能力。


第四個難題:先進製程

當製程從:

  • 7nm
  • 5nm
  • 3nm
  • 2nm

一路縮小。

SRAM 並不一定能同步縮小。

甚至有時縮放效果比邏輯電路差。

這讓晶片公司非常頭痛。

因為:

CPU 核心越縮越小。

SRAM 卻像不肯減肥的同學。

體型始終維持在那裡。


台灣有哪些公司在做 SRAM 相關技術?

嚴格來說。

真正自行設計 SRAM 的公司很多。

因為只要設計 CPU、GPU、AI ASIC 都必須設計 SRAM。

但若談核心技術能力較強的公司,以下幾家值得注意。


台積電

很多人以為台積電只是代工。

其實不是。

台積電擁有大量 SRAM IP。

每個製程節點都必須重新開發 SRAM Library。

客戶才能順利設計晶片。


聯發科

手機 SoC 裡面充滿 SRAM。

包括:

  • CPU Cache
  • NPU Buffer
  • GPU Cache

因此聯發科長年累積大量 SRAM 設計經驗。


世芯-KY

AI ASIC 客製化晶片大廠。

設計大型 AI 晶片時。

SRAM 是重要組成部分。


創意電子

協助客戶打造客製化晶片。

同樣需要大量 SRAM IP 整合能力。


美國有哪些公司在 SRAM 領域很強?


NVIDIA

目前可能是全球最大的 SRAM 消費者之一。

AI GPU 裡面塞滿 SRAM。

每一代產品都在追求更大的 Cache。


AMD

特別是 3D V-Cache 技術。

幾乎把 SRAM 玩出新高度。


Intel

數十年 CPU 設計經驗。

SRAM 技術極其深厚。


Broadcom

交換器 ASIC 與網路晶片內部同樣需要大量 SRAM。


Google

TPU 架構大量使用 SRAM Buffer。

讓 AI 運算效率大幅提升。


這些公司靠 SRAM 怎麼賺錢?

答案很有趣。

他們很少直接賣 SRAM。

而是靠 SRAM 讓整顆晶片變得更值錢。


第一種:提高效能

假設:

CPU 成本增加 20 美元 SRAM。

卻讓效能提升 15%。

可能就能多賣 100 美元。

這就是高毛利來源。


第二種:降低功耗

AI 資料中心最怕耗電。

如果 SRAM 設計得更好。

每年可能省下數百萬美元電費。

客戶自然願意買單。


第三種:增加 AI 吞吐量

對 AI 公司來說:

時間就是金錢。

如果 SRAM 能讓模型訓練速度提高 10%。

那可能代表數億元等級的價值。


第四種:IP 授權

有些公司專門設計 SRAM IP。

再授權給晶片設計公司使用。

這也是重要商業模式。


結論:AI 軍備競賽裡最容易被忽略的隱藏 MVP

當大家都在討論 CPU、GPU、TPU 誰最強時,SRAM 就像球隊裡那位不上新聞卻場場先發的控球後衛。

他不會灌籃。

不會得 50 分。

甚至很多觀眾不知道他的名字。

但只要他缺席,整支球隊立刻亂成一團。

在 AI 時代,真正昂貴的往往不是運算,而是資料搬運;真正限制效能的,也不一定是核心數量,而是資料能否及時送到核心手上。

因此未來無論是 CPU、GPU、TPU、AI ASIC、機器人晶片,甚至自駕車晶片,都會越來越依賴 SRAM。

如果說 GPU 是 AI 的肌肉,TPU 是 AI 的大腦,那 SRAM 更像是 AI 的短期記憶與神經網路。沒有它,再強的運算單元都只能站在原地發呆;有了它,整顆晶片才能像開了外掛一樣全速狂奔。

所以當下次有人說:「AI 晶片不就是一堆 GPU 嗎?」

你可以笑著回答:

「不,真正忙到沒時間休息的,可能是那堆躲在角落、默默幫大家搬資料的 SRAM。」

沒有留言:

張貼留言

當 CoreWeave 的 GPU 開始「吃到撐」:營收暴增 24%,資本支出卻像開了氮氣加速器! #CoreWeave #AI #GPU #AI資料中心 #AI算力 #人工智慧 #AI基礎建設 #雲端運算 #科技股 #美股 #AI投資 #資本支出 #半導體 #NVIDIA #投資理財 #是德是瑞是克

  如果你以為 AI 產業的成長,就是大家買幾張 GPU、開幾台伺服器,那 CoreWeave 第二季財報可能會讓你重新認識「AI 到底有多燒錢」。 CoreWeave(NASDAQ:CRWV)在 2026 年第二季交出一份相當有戲的成績單:營收創新高、AI 雲端需求持續爆發,營...