i卡會員

生成式AI應用服務快速走入生活，除了生成的表現令人驚豔，相關的負面報導也同樣層出不窮，正反兩極的影響也讓政府、企業與使用者放緩腳步謹慎評估新科技的風險。本文將列舉並分析生成式AI伴隨的風險與影響，並闡述生成式AI應用服務的安全疑慮與攻擊威脅，提供給有意使用或發展生成式AI相關服務的業者們參考。

【內容大鋼】

• 一、當生成式AI快速走入生活伴隨風險與影響
  • (一)虛假訊息：以美國律師在法庭上引用ChatGPT生成之案件為例
  • (二)內容合規：以澳洲市長和美國法學教授被生成不實醜聞為例
  • (三)侵犯智慧財產權：以Midjourney被藝術家提告違反授權為例
  • (四)資訊安全：以韓國三星員工使用ChatGPT機密資訊外洩為例
  • (五)國家安全：以俄烏戰爭將AI應用於軍事用途為例
• 二、生成式AI應用服務的安全疑慮與攻擊威脅
  • (一)竊取登錄憑據(Credentials Hacked)
  • (二)AI幻覺軟體庫惡意創建(AI Hallucination Package)
  • (三)間接提示注入攻擊(Indirect Prompt Injection)
• IEKView

【圖表大綱】

• 圖1、生成式AI應用風險觀測
• 圖2、生成式AI應用服務的攻擊威脅