i卡會員

因應AI硬體及邊緣AI發展熱潮，本文經由2024年9月第七屆AI Hardware & Edge AI Summit 2024展會之現場觀察，此次參展廠商超過75家。據觀察了解此展會設定AI硬體及邊緣AI的範圍，突破過去僅限於硬體及系統的面向，擴展到從設計到跨雲邊緣一系列部署的ML硬體和軟體，如透過專門針對生成式AI、模型建置、模型訓練和架構、硬體和基礎設施、推理、部署和服務等途徑，來涵蓋AI/ML 結合軟硬體之生命週期的所有階段。本文重點歸納此展會之AI硬體及邊緣AI之發展現況與方向，提供給有興趣投入AI/ML領域之臺灣業者與政府之參考。

【內容大綱】

• 一、大廠主打邊緣AI軟硬整合分散式架構
  • (一)DELL提供企業級Avatar Solution跨語言虛擬助手解決方案
  • (二)Intel I提供AI推理之隨插即用開發套件
  • (三)AWS主打Amazon SageMaker，建立Gen AI應用生態系
  • (四)Siemens HLS簡化FPGA或ASIC硬體設計、提升產品效能、降低開發成本
• 二、AI硬體關鍵技術：HBM、類腦運算、支援多模態模型
  • (一)HBM成為AI高階晶片關鍵資源
  • (二)模仿人腦運作模式之類腦運算廠商案例
• IEKView

【圖表大綱】

• 圖1、DELL企業級Avatar Solution
• 圖2、Amazon SageMaker 應用生態系之產品案例
• 圖3、Siemens HLS部分流程說明
• 圖4、SK海力士AIMX card
• 圖5、BrainChip公司攤位
• 圖6、GEMESYS在展場開放式論壇簡報內容
• 圖7、Deep X -AI晶片處理16 通道的VLM展示