- 2025/03/22
- 520
- 76
趨勢1 Nvidia’s AI empire: A look at its top startup investments
1. 投資數量快速增長:2023年:Nvidia參與了 38筆 AI投資。2024年:投資筆數增至 49筆,增幅顯著。2025年(截至目前):已參與 7筆 投資,預計全年仍會維持強勁增長。
2. 關鍵投資方向:
- 生成式AI:持續投資 OpenAI、xAI、Cohere、Perplexity 等大語言模型(LLM)開發商。
- AI雲端運算:如 Lambda、CoreWeave、Together AI,確保其GPU產品的市場需求穩定。
- 自動駕駛與機器人技術:包括 Wayve、Waabi、Figure AI,代表Nvidia積極推動AI驅動的機器人與智慧交通。
- 醫療與企業AI:投資 Hippocratic AI、Kore.ai,擴展AI在特定產業應用的影響力。
3. 新創企業名單:
資料來源:工研院產科國際所(2025/03)
趨勢2 Explaining Tokens — the Language and Currency of AI
1. Token 驅動的 AI 經濟:人工智慧的新貨幣體系
在 AI 經濟模式中,Token 已成為衡量智能產出的核心單位,影響從 AI 訓練、推理(Inference)到商業化應用的整體運作方式。AI 工廠(AI Factories)透過大規模計算能力,將 Token 轉換為有價值的推理結果,驅動 AI 服務的商業模式。許多 AI 企業已經採用 Token 為基礎的計價機制,根據 Token 的輸入與輸出數量訂定收費標準。例如,使用者可以透過 少量輸入 Token 來獲得 大量 AI 生成內容(如長篇文本、影片或圖像),或反之使用大量輸入 Token 來獲得高度精煉的回應(如總結報告或決策建議)。
此外,AI 服務提供商不僅控制 每次請求可用的 Token 數量,還會設定 Token 產生速率限制,確保 AI 能夠同時服務大量用戶。例如,對話式 AI 會優化 Time to First Token(TTFT) 以確保回應的即時性,而影像與影片生成模型則需要考量 Inter-Token Latency(ITL),讓輸出速度符合用戶需求(如保持流暢的動畫生成)。隨著 AI 模型發展,長思考模式(Long Thinking) 開始興起,允許 AI 透過反覆運算產生更深入的推理結果,但這也增加了 Token 的消耗量,並進一步推升 AI 計算成本。
這種以 Token 為核心的 AI 經濟模式,正加速 AI 應用從傳統訂閱服務轉向基於Token消耗的計費模式,讓企業能夠更靈活地根據運算需求收費,同時也提升了 AI 推理的可量化價值。
2. AI 產業未來新模式
- AI 商業模式的轉變:從訂閱制到 Token 計費:傳統 AI 服務以固定訂閱費用提供無限使用,但未來可能轉為 根據 Token 使用量計費,類似雲端運算的「隨用隨付(pay-as-you-go)」模式,進一步優化 AI 服務的商業化效率。
- AI 運算與 Token 產出效率的競賽:AI 企業將致力於提升 每個 Token 的運算效能,例如透過更高效的 AI 硬體(如 NVIDIA GPU)、優化演算法,降低推理成本,確保 Token 產出與商業價值的最大化。
- 「長思考」與 AI 智能層級的提升:推理 AI(Reasoning AI) 模型將更強調「長思考」,產生高質量 Token 以解決複雜問題,例如法律、金融決策、自動駕駛等領域的高精度應用。
- AI 生態系統的分層與專業化:AI 產業將出現專精於特定類型 Token 的服務供應商,如針對醫療、法律、金融或創意產業優化的 Token 生成與處理模型。
- AI 工廠的崛起:超級數據中心的擴張:AI 工廠將成為 AI 運算核心,讓企業能夠快速訓練與部署 AI 模型,以更低成本處理大規模 Token,支撐 AI 產業的增長。
現場觀點
1. AI 晶片的需求:從訓練加上推理兩個方向的計算需求,加上快速反應及深度思考兩個維度,整體 AI 應用的場景,可以預想到很多不同區塊的晶片產品,將會在傳統晶片大廠外透過成本或效能優化,以達到分散或邊緣化AI市場需求。
2. AI 不再是純軟體加上網路:企業使用者或許對AI的使用,加上了很多商業決策的期待,不再只是優化效率,更期待能夠透過 AI 找到市場未被滿足的洞見,提出更具有說服力的價值訴求,以提升公司營業利潤。
3. 如何導入 AI:從過去的了解既有流程,收集數據建立模型,後套用AI建立數位雙生,再導入產線。逐漸轉換成,利用AI重新模擬設計新的流程,然後讓原本的專業人士或員工用更低的學習曲線,透過ChatGPT…等語意理解介面,快速融入更高效率的新工作方式,取得更好的產出。
4. 能源可能是AI的限制:看到了GTC新的晶片發展,似乎需要更大量的能源基建,才能夠大規模部署 AI 運算及推理資源,增加商業應用的普及率,最終取得企業盈利的效益,因此北美還是最重要的市場,不只因為消費端,更因為完整的能源產業作為後盾。