AI資料中心GPU市場的發展趨勢
- 2025/05/13
- 288
- 33
隨著生成式AI模型(如大型語言模型,LLM)與深度學習應用日益普及,AI資料中心已成為支撐智慧運算發展的核心基礎設施。AI資料中心需處理大模型的訓練與推理運算,對算力與運算效率的需求持續攀升;目前AI資料中心依賴各種類型的晶片例如GPU(...
隨著生成式AI模型(如大型語言模型,LLM)與深度學習應用日益普及,AI資料中心已成為支撐智慧運算發展的核心基礎設施。AI資料中心需處理大模型的訓練與推理運算,對算力與運算效率的需求持續攀升;目前AI資料中心依賴各種類型的晶片例如GPU(...
2025年生成式AI應用落地迎來發展機遇,可從CES創新獎的產業創新應用初窺端倪。2025年CES消費電子展環繞AI應用為主題,以「DIVE IN」描繪AI應用已深植各領域,以更成熟的方式結合近年興起的生成式AI技術。本文將盤點CES創新...
隨著AI技術的不斷演進,如何讓AI、LLM等技術從雲端分散至邊緣裝置,已成為嵌入式系統領域主要的課題。生成式AI 透過即時數據處理、預測性維護和流程優化來強化工業用嵌入式電腦。邊緣AI的興起帶來了更多的運算彈性與能效最佳化。在雲端與邊緣運...
人工智慧(AI)模型近年發展歷程演變快速,大語言模型(LLM)的湧現能力(Emergent Abilities)成為模型效能提升焦點,然而,小型化大語言模型(sLLM)的優勢有具備輕量級的模型參數、訓練與推理成本低、部署容易且彈性,有助於...
在生成式AI重塑股票市場的同時,生成式AI也開始帶動雲端運算市場變革,雲端大廠為確保核心競爭力,對於生成式AI新創也不吝投資。根據Gartner調查,一般企業已準備好導入生成式AI技術,導入主要會由IT部門負責。觀察大型語言模型目前最快落...
生成式人工智慧與大型語言模型的趨勢浪潮,正加速朝向「強人工智慧(Strong AI)」發展。2023今年從個人、企業、產業、社會、到國家正進入「AI 2.0」的關鍵年,此時台灣產學研亟需整合所有AI科技能量,因應新一代人工智慧典範轉移的時...