i卡會員

在生成式AI重塑股票市場的同時，生成式AI也開始帶動雲端運算市場變革，雲端大廠為確保核心競爭力，對於生成式AI新創也不吝投資。根據Gartner調查，一般企業已準備好導入生成式AI技術，導入主要會由IT部門負責。觀察大型語言模型目前最快落地的主流技術，是檢索擴增生成，可搭配提示工程及微調，同時從三方面改進；大型語言模型客製化技術，根據所需資料多寡及運算成本高低，可分四大類型七種技術，欲實現落地者可參考自條件折衷取捨；Israel-1的出現，代表超級電腦SuperPODs快速構建整合技術又上一層樓。除上述趨勢外，還有其他重要議題也漸出現，會影響後續生成式AI市場發展，如模型微型化技術、記憶體控制/加速技術、自研AI雲端晶片。

【內容大綱】

• 一、LLM最快落地的主流：檢索擴增生成(RAG)
• 二、LLM的客製化光譜
• 三、SuperPODs再掀高潮
• IEKView

【圖表大綱】

• 表一、生成式AI著名新創已成為全球科技大廠主要投資對象
• 圖一、檢索擴增生成(RAG)應用方式
• 圖二、進階檢索擴增生成
• 圖三、LLM客製化技術四大類型
• 表二、LLM客製化技術比較表
• 圖四、原SuperPOD統包(Turnkey)方案