i卡會員

資料中心應用跟電動車一樣有極高的節能需求；雖目前市面有許多新技術皆可協助資料中心節能，但從xPU/運算晶片及外部連接介面下功夫，可獲得事半功倍的效果。而資料中心另個立即需要節能的理由在「大型語言模型」興起，可應用範圍越廣，未來必然是研究重點，但若不對耗能進行改善，則未來有可能讓資料中心耗盡全球能源，危害AI「民主化」。而資料中心一部分運算效率可先從伺服器基本架構來改善，例如單一CPU搭配單一GPU，或設置近端記憶體。最後還有許多透過ASIC晶片的創新，可提升運算效率，如記憶體內運算、軟體定義硬體、仿神經型態運算等；後者可同時達「節能節時」雙重效果，為目前是具潛力的解決方案，可等同小型哺乳類動物的大腦算力。最後建議台灣自有「大型語言模型」開發，可由法人機構協助依循三步驟進行。

【內容大綱】

• 一、大型語言模型的興起
• 二、傳統伺服器的運算瓶頸
• 三、多采多姿的運算晶片解決方案
• IEKView

【圖表大綱】

• 圖一、傳統汽車與電動車的驅動效率比較
• 圖二、資料中心能耗分布狀況
• 圖三、大型語言模型全球發展概況
• 圖四、Grace-Hopper與傳統x86的伺服器架構比較
• 圖五、Intel發展中的Loihi系列晶片展現仿神經運算的潛力
• 圖六、在世界AI發展算力構築競賽中，台灣急需補強下一代超級電腦