i卡會員

儘管AI Agent已出現許多開發者沒有預料到的行為，多位專家仍認為，目前更精確的說法是「越界」，而不是真正「失控」。要避免AI代理越界的關鍵，就是要規則訂清楚，同時根據AI不同的階段，設定安全防護。

數位發展部資通安全署署長蔡福隆指出，AI超出原本預期，確實可視為越界，但只要人類能追蹤、監視並中止它的行為，基本上就還在可控範圍；只有當人類完全無法監控，AI又造成不可預期的損害，才可稱為失控。

有30年資安防護經驗的精誠資訊安全策略總監陳勇君提到，跟AI代理相處，要有清楚的規則，舉例來說，「請它買乖乖，就要明確說只能使用某張卡、金額不能超過多少，只能從內網走，不能走外網，進去商場後，要先找有促銷價的先買。」

「我們平常請一個人買乖乖，通常不會講這麼清楚，但當我們真的要用AI Agent做事時，如果不希望出問題，就要把規則訂得非常清楚。」陳勇君說。

陳勇君認為，AI之所以強勢，在於它的速度比人快，它想的、反應的比人快，但並不代表人類想不到。「未來AI超過人類的想像，不是不會發生，而且它的想像速度和範圍比人類快；人類可能只想到100公尺內，它已經想到一萬公里外。」因此，AI的企圖心超越人類控制的情況，確實可能發生。

精誠現在的客戶包含政府、高科技業、金融業等。陳勇君表示，針對AI的資安防護，精誠已設計AI動態生命周期防護機制，會根據AI不同的階段，導入相應的資安機制。例如開發AI Model、AI Agent和AI應用都要做安全檢測，甚至找外部的白帽駭客來做紅隊演練，確定沒有各種漏洞和可能的問題，才能上線。

「上線之後，還要針對內部同仁使用AI的行為進行管理，設定AI護欄，包括同仁下了什麼提示詞、上傳什麼檔案，AI回應什麼，所有的互動都要留下紀錄，這樣一旦發生公司機密外洩時，才有證明。」陳勇君說。

他強調，AI動態生命周期防護的目標是惡意指令進不去、機敏資料出不來，以及異常行為跑不了，確保企業一旦發生機密外洩便有紀錄可查。