隨生成式 AI 的商用化,資料傳輸需求上升,使 CPO (Co-packaged Optics, 共同封裝光學元件)被市場關注,本文將針對技術、普及時間、相關供應鏈進行分析。
富果觀點
- CPO 技術因能降低資料傳輸時的損耗、用電量等,隨生成式 AI 商用化,資料傳輸需求爆發而受到市場關注
- CPO 因損壞時不易更換、尚未有統一規格,現階段較難導入於資料中心,預計將在2025 年顯著成長,並在 2027 年時被企業大規模採用成為主流
- CPO 市場目前由交換器晶片設計廠主導,並以 Broadcom 為現階段技術領先者
CPO 技術因能降低資料傳輸時的損耗、用電量等,隨生成式 AI 商用化,資料傳輸需求爆發而受到市場關注
在目前的資料中心裡,資料傳輸是透過插拔式光收發模組將晶片的電訊號轉換成光訊號,再藉由光纖傳送至資料中心其他的交換器/伺服器當中。而在光收發模組中,會需要光接收器(PD)來接收光訊號,轉換成電訊號後,還需要放大器來將電流信號放大,這些光通訊元件傳統會被放在 PCB 載板上。
而 CPO 使用矽光子(Silicon Photonics,即透過矽作為光的傳輸媒介),將傳統光收發模組中的光通訊元件與交換器晶片整合、封裝在同一個封裝模組中(即光引擎),並安裝在同一個 Socket(插槽)上,減少了資料的傳輸路徑,在維持高傳輸速度下降低了功耗並減少訊號耗損或延遲。
Source:日月光、富果研究部
CPO 開始受到市場關注主因生成式 AI 的商用化。AI 伺服器在 AI 模型訓練階段需在資料中心內部進行大量運算,此外 AI 應用要求極高的傳輸速率以提高運算效率,若是藉傳統的方式進行資料傳輸會面臨嚴重的訊號損失,並延長模型訓練時長導致耗電量增加。
根據 Broadcom,若採用傳統可插拔式光收發模組(以銅線為媒介在 PCB 上傳遞),當訊號傳輸速度上升至 200G 時,訊號損失將會超過每公尺可以接受的損耗量(超過 20 dB),且損耗量隨速度上升更加嚴重。透過 CPO,預計能節省約 30% 的功耗、 40% 的成本,也因為體積更小可以提升資料傳輸的密度,節省資料中心內部空間。
Source:Broadcom
CPO 因損壞時不易更換、尚未有統一規格,現階段較難導入於資料中心,預計將在2025 年顯著成長,並在 2027 年時被企業大規模採用成為主流
然而,CPO 在技術上有許多困難需要克服。
首先,將光通訊元件整合至交換器內部後,面對元件故障、損壞時,由於元件尺寸更小、精密度更高,更換難度遠高於傳統可插拔式光收發模組。
此外,由於 CPO 仍處於發展前期,雖業者之間架構類似,但因 CPO 傳出的為光訊號而非電訊號,由於叫電訊號複雜,各個業者之間在光訊號參數上會有所差異,降低了不同廠商之間 的互通性,不像可插拔式光收發模組已成熟並發展出統一規格,客戶(雲端業者)較難獨立採購交換器以及光收發模組。
目前各科技巨頭皆積極投入矽光子、CPO 技術。根據 Light Counting 研調,預計 2022~2027 年 CPO 技術將以 CAGR 19% 成長 ,並在 2027 年成為市場主流。檢視目前 400G 光收發模組已經量產,且 800G 產品也開始推出,可插拔式光收發模組仍因發展成熟、成本低、通用性高等優點被大多數廠商採用。目前全球光收發模組龍頭中際旭創認為, 800G 的可插拔式光收發模組技術成熟,CPO 技術基於上述的挑戰,預計將在下一世代後(資料傳輸速度達1.6T、3.2T)才會被企業大規模採用。
Source:Light Counting
雖近兩年較難見到 CPO 快速普及,但因 AI 的商用化,將加速 CPO 技術的發展,判斷將於 2025 年開始有顯著成長,以下將分析市場上的主要參與者以及供應鏈。
CPO 市場目前由交換器晶片設計廠主導,並以 Broadcom 為現階段技術領先者
目前主要由美國交換器晶片設計大廠推動 CPO 技術,包含 Broadcom(NASDAQ:AVGO) 、NVIDIA(NASDAQ:NVDA)(收購 Mellanox)、Cisco(NASDAQ:CSCO)(收購 Luxtera)等,現階段以 Broadcom 之技術最為領先。
Broadcom自 2022、2023 年接連推出 Tomahawk 4(25.6Tbps)、 Tomahawk 5(51.2 Tbps)的 CPO 晶片,與負責外部光源 (ELS) 零件的光收發模組廠眾達 – KY(市:4977)合作,並由中國鋭捷網路代工組裝交換器;NVIDIA 收購 Mellanox 後也切入交換器晶片領域,目前與中國的天孚通信合作開發 CPO;Cisco 為全球品牌交換器龍頭,目前則跟 Inphi (在 2020 年被 Marvell 併購)共同開發,預計 2024 年將推出 51.2 Tbps 交換器。
台廠供應鏈則包含:
- 矽光磊晶廠:聯亞(櫃:3081)
- 光纖模組、光收發模組廠:上詮(櫃:3363)、訊芯 – KY(市:6451)、華星光(櫃:4979)
- 交換器組裝廠:智邦(市:2345);
- 晶圓製造:Global Foundries(NASDAQ:GFS)、台積電(市:2330)(註 1)
- 晶圓封裝:日月光(市:3711)(註 2)
註 1:根據研調目前台積電已與 Luxtera(矽光子晶片大廠) 進行合作,將使用七奈米製程生產矽光子晶片
註 2:日月光於 2022 年推出的先進封裝平台 VIPack 也包含了 CPO 技術,並與台積電進行合作。
Source:鋭捷網路、富果研究部
而在需求端,主要以雲端業者 Meta 與 Microsoft,正積極努力支援 CPO 技術滲透至它們的網路架構中,其他雲端業者採用意願仍低,有興趣的讀者可以持續關注