i卡會員

AI技術展現出越來越強大的能力，其普及速度前所未見，對於人類生活帶來了極大的改變。然而，由於人們對AI技術的信任取決於是否能確保AI應用上的安全性，因此在評估、預防和減輕先進AI系統風險的AI安全研究(AI Safety research)已成為重要的科學研究領域。其重要性不僅展現於學術研究活動的增加，更在英國與韓國兩場AI高峰會，以及多個國家雙邊協議中，被提升至國際合作層級。目前為止，主要國家如美英加日韓等，均設立AI安全機構，負責對於AI系統的研究、測試、引導等工作，同時在主要國家以元首高峰會協議與部長級承諾的推動下，也建構起AI安全機構國際網絡(這些國家均參與其中)，顯示未來AI安全研究將進入多邊合作的網絡中，成為全球AI治理的關鍵一環。

【內容大綱】

• 一、AI安全研究已成重要領域
  • (一)AI安全研究(AI Safety)的崛起與內涵
  • (二)當前AI安全研究的趨勢
• 二、英韓AI高峰會與多項雙邊協議推進AI安全研究的國 際合作網絡化
  • (一)英國AI安全高峰會：提出建立AI安全科學研究國際網路
  • (二)韓國AI高峰會：確認建立AI安全研究機構國際網絡
  • (三)AI安全機構國際網絡在舊金山的首次聚會：提出任務說明
  • (四)以AI安全雙邊協議邁向國際網絡
• 三、主要國家建立AI安全機構之作為
  • (一)美國AI Safety Institute (USAISI)
  • (二)英國AI Security Institute (UKAISI)
  • (三)歐洲AI Office的AI Safety Unit
  • (四)日本AI Safety Institute (AISI Japan)
  • (五)新加坡安全研究機構
  • (六)韓國AI安全研究所
  • (七)加拿大AI Safety Institute (CAISI)
  • (八)法國AI評測中心
• IEKView

【圖表大綱】

• 圖1、2018至2023年間與AI安全有關的論文產出數量
• 圖2、布萊切利宣言重點架構與內容
• 圖3、AI安全機構國際網絡的初始會員國
• 圖4、邁向AI安全機構國際網絡的歷程
• 表1、主要國家現有AI安全機構