AI資料中心高速互連與通訊網路演進：從Scale-Up、Scale-Out到光電融合
- 2026/09/14
- 1749
- 49
生成式AI與大型語言模型快速發展，帶動AI資料中心規模持續擴大，連帶GPU、CPU、ASIC、HBM與網路設備的部署激增；AI系統的效能瓶頸也逐步由單一加速器的運算能力，延伸至晶片、伺服器、機櫃、AI叢集及資料中心之間的資料搬移與交換需求...
產業焦點
生成式AI與大型語言模型快速發展，帶動AI資料中心規模持續擴大，連帶GPU、CPU、ASIC、HBM與網路設備的部署激增；AI系統的效能瓶頸也逐步由單一加速器的運算能力，延伸至晶片、伺服器、機櫃、AI叢集及資料中心之間的資料搬移與交換需求...
隨著LLM不斷演進，其參數量達數兆個，上下文視窗達百萬級Token水準，使得模型難以安裝在單一GPU上，這意味著模型必須被分割成較小的區塊，並跨多個GPU平行運算處理。除了繼續提升GPU效能，或採用TPU、LPU、NPU等AI加速器提高模...