財經中心/廖珪如報導
黃仁勳GTC演講介紹Rubin Ultra。(圖/翻攝自三立新聞網)針對Nvidia於9月發表 Nvidia CPX 晶片,所帶來的商機,國泰期貨報告分析指出,由於 Nvidia CPX 熱設計功耗仍高達800W 以上,以此熱設計功耗基礎配置於 Vera Rubin 僅1U~2U 高度的運算層內,恐無足夠空間配置氣冷模組作解熱,預期 CPX 同樣將採用水冷配置可關注台廠包括:健策(3653)、雙鴻(3324)、奇鋐(3017)、富世達(6805)。
報告指出,Nvidia CPX 是針對推論而設計的 context/prefill 專用加速器,目標以 Rubin 晶片以及 CPX 共同協作分工以增進效率,CPX 專責 context/prefill.面對的是大量的計算密集型階段,配備高 FLOPS 密度與較友善成本的 GDDR7。把推論拆分為計算密集的預填(prefill)與頻寬敏感的解碼(decode)分別交由兩種最適化晶片處理,藉此提升吞吐、縮短首 Token 延遲並壓低每 token 成本。
單卡在 NVFP4 規格運算下,主打約30PFLOPS 的運算能力,受惠於晶片分工下,CPX 得以捨棄 HBM 記憶體 配置 128GBGDDR7。伺服器配置上,在 Rubin 晶片與 GB 系列配置並無太大差異,運算層內以4片Rubin 加上兩片 CPU 配置,在運算層下端將新增8片CPX 配置,更進一步提升運算層內的晶片密度。
散熱產值提升
據傳 Nvidia CPX 熱設計功耗仍高達800W 以上,以此熱設計功耗基礎配置於 Vera Rubin 僅1U~2U 高度的運算層內,恐無足夠空間配置氣冷模組作解熱,預期 CPX 同樣將採用水冷配置,增加的 CPX 晶片配置將以水冷散熱,使得需要在水冷板配置上增加兩片,並且再增加一片電源模組散熱用水冷板,對比 GB300 運算層內沿用 GB200 設計.配置兩大片水冷板以及 6組快接頭,Vera Rubin 一共採用4大片 1 小片水冷板並配置 12 組快接頭,使得整體散熱組件產值倍數提升。受惠於 Nvidia CPX 導入使得 Vera Rubin 即便在 Micro-channel Lid 成功導入情境下,運算層內傳統水冷散熱組件產值仍呈現顯著增長。
Nvidia CPX 導入使得 Rubin 世代無論導入 Micro-channel Lid 與否.單一運算層內水冷組件產值仍呈現提升,使得 AI伺服器傳統水冷散熱產值提升趨勢不變,可關注台廠包括:健策(3653)、雙鴻(3324)、奇鋐(3017)、富世達(6805)。此外,奇鋐(3017 )在 GB世代水冷組件持續保有高供應比重,可受惠GB300 交換器層以及Vera Rubin 連續水冷產值提升效應,有利公司長期發展,故維持買進投資建議;雙鴻(3324 )在 GB300 世代較早取得認證優勢,使得水冷板產品於GB300 世代開始大量出貨 ,帶動25年以及26年營運走高,故維持買進投資建議。
三立新聞網提醒您:
內容僅供參考,投資人於決策時應審慎評估風險,並就投資結果自行負責。
投資一定有風險,基金投資有賺有賠,申購前應詳閱公開說明書。