淺談生成式AI應用對記憶體技術挑戰與廠商未來戰略的影響
The impact of generative AI applications on memory technology challenges and manufacturers’ future strategies
- 2024/12/13
- 428
- 39
在AI技術發展多年後,歷經數次的技術推進,其中機器學習的發展是重要的關鍵,其中深度學習是機器學習方法之一,藉由神經網絡的處理技術,允許AI模擬人腦,進而使得影像辨識、自然語言處理和模擬成為可能。深度學習的基礎技術大幅度提升AI的效能,以此為基礎,2022年生成式AI開啟了第四波AI技術革新的浪潮。為了協助AI模型有效率的運作,除了運算晶片本身的算力持續提升之外,搭配GPU運算所需的HBM記憶體,以及搭載大容量且高速存取的3D NAND Flash儲存裝置,同步協助實現AI模型的應用擴展,而這些也導引出記憶體3D化的技術課題。
【內容大綱】
-
一、AI技術大躍進對未來世界的影響
- (一)未來AI運算模型架構發展
- (二)生成式AI技術逐漸滲透,對模型與晶片的影響為何?
-
二、生成式AI技術發展對半導體市場驅動力以及發展課題
- (一)生成式AI為未來5年的AI半導體市場成長主要驅動力
-
三、AI應用導引出記憶體技術發展3D化新課題
- (一)AI記憶體技術發展課題-記憶體撞牆
- (二)AI模型訓練與運算之記憶體解決方案-HBM
- (三)3D NAND Flash技術對AI模型的重要性與下階段技術挑戰
-
四、主要AI記憶體廠商發展動向
- (一)HBM記憶體
- (二)3D NAND Flash技術
- IEKView
【圖表大綱】
- 圖一、AI與HPC所構築的未來
- 圖二、全球AI半導體營收預估
- 圖三、HBM架構
- 圖四、全球HBM市場預估
- 圖五、2D與3D NAND Flash架構比較
- 表一、NAND Flash Roadmap