i卡會員

生成式AI與Agentic AI快速發展，正重新定義全球雲端基礎設施。傳統雲端以虛擬化、彈性資源配置及CPU運算為核心；隨大型語言模型、多模態模型與持續推論需求增加，資料中心逐步轉向GPU叢集、高頻寬互連、高速儲存、液冷、高密度供電及模型生命週期管理，並由單純的雲端機房，演進為持續將電力、資料與模型轉化為智慧服務的AI工廠，目前產業競爭已由單一晶片或模型，提升至資料中心與園區級系統。對臺灣而言，此趨勢可延伸既有AI伺服器、機櫃、電源、散熱、網通及半導體製造優勢，未來應進一步將由設備製造走向AI基礎設施的設計、驗證、部署與營運，並結合主權AI、國內算力中心及海外資料中心需求，形成可輸出的AI工廠整體解決方案。

【內容大綱】

• 一、從雲端運算走向AI工廠
  • (一)生成式AI改變雲端工作負載的三個核心特徵
  • (二)AI工廠不是「大型GPU機房」，而是全棧協同設計
• 二、全球雲端與AI大廠動態
  • (一)NVIDIA：從GPU供應商走向AI Factory架構定義者
  • (二)Microsoft Azure：以可世代升級的資料中心支撐AI算力快速迭代
  • (三)AWS：GPU與自研加速器並行，強化AI基礎設施的成本控制能力
  • (四)Google Cloud：以AI Hypercomputer實現硬體與軟體協同最佳
• 三、AI工廠帶動資料中心架構的五項關鍵轉型
  • (一)從伺服器級走向Rack-scale與Pod-scale整合
  • (二)高速網路由配角成為決定AI效率的核心
  • (三)液冷與高密度供電成為AI資料中心標準能力
  • (四)AI推論使Token經濟成為新的資料中心營運邏輯
  • (五)算力主權與在地化需求促使AI雲區域化
• 四、臺灣產業機會：由AI伺服器製造中心走向AI Factory解決方案輸出
  • (一)AI伺服器與機櫃整合：從ODM走向Factory Builder
  • (二)電源與散熱：AI工廠最直接的非GPU成長市場
  • (三)網通與光通訊：AI叢集擴張帶動高階交換器與CPO機會
  • (四)半導體與先進封裝：由晶片製造延伸至系統共同設計
  • (五)雲端與系統服務：臺灣最需要補強的價值鏈環節
• IEKView

【圖表大綱】

• 圖1、雲端基礎設施由Cloud走向AI Factory的演進
• 圖2、AI工廠全棧基礎設施架構
• 圖3、全球主要業者AI基礎設施布局比較
• 表1、主要國際業者AI基礎設施策略比較
• 圖4、臺灣AI Factory價值鏈升級方向