i卡會員

本文探討各大科技公司如何透過專有的連接技術來提升處理器的性能，以應對日益增長的AI運算需求。文章從伺服器在支撐生成式AI和大規模語言模型中的核心角色出發，分析了各大科技公司如何透過創新互連技術，應對日益增長的AI運算需求。探討這些技術的市場趨勢及未來發展方向，並概述了主要科技廠商如NVIDIA、AMD和Intel在這一領域的最新技術和產品，以及它們在GPU與CPU之間的協作和互連技術方面的創新。本文指出，未來資料中心將越來越依賴這些高效的互連技術來優化AI運算環境，並對於這些技術的趨勢和發展進行了深入分析。

【內容大綱】

• 一、AI時代的伺服器運算效能需求
• 二、GPU與CPU在AI運算中的協作與互連技術
• 三、各大科技廠推互連技術
  • (一)NVIDIA
  • (二)AMD
  • (三)Intel
  • (四)UALink聯盟
• 四、網路基礎設施架構
  • (一)Ethernet
  • (二)InfiniBand
  • (三)RoCE
• IEKView

【圖表大綱】

• 圖1、NVIDIA效能
• 圖2、AMD MI300X Infinity Platform™: 8 OAM + AMD UBB Node Example
• 圖3、Intel® Gaudi® 3 AI Accelerator