i卡會員

數聯資安總經理李明憲昨（26）日表示，AI不僅是資安的盾，也可以是駭客的矛，初階駭客在AI的幫助下能做到以往中高階駭客才能做到的事，對資安防護是不小的挑戰。除了外部攻擊外，內部風險也不容小覷。

談到如何防範駭客，李明憲指出，駭客往往會在多次試探後才發出攻擊，如果每次都進行調查太過浪費資源，但不調查又可能被入侵成功，決策者常會進退兩難。現在透過AI代理部署哨兵，在發現異常行為後，就會開始監控後續動作，檢測是否跟以往建立的行為標準線有異常，能夠更準確判斷是否為駭客入侵。

李明憲提醒，雖然透過AI工具確實能提高資安防禦力，但可能也會面臨資料外洩的風險。例如對大型語言模型進行提示注入後，大型語言模型就會生成一個惡意程式，並收集資料，然後再傳給其他人，導致資料外洩。另一方面，在使用AI代理的過程中，可能會調用各種工具，為防止其中有漏洞，需要進行一些限制。

為此，數聯資安內部制定了一些規範，例如把資訊封閉在某個可控的場域，防止資料外流。再來是自行搭建一個比較小型、專屬於公司的大型語言模型，比較簡單的訓練及推論就用自己的大型語言模型執行，減少資料流出，再加上一些政策規範，就能讓風險在可控範圍內。AI代理問世後，整個過程大大改善，李明憲表示，其調查深度及廣度不是人工調查能比擬的，還可以維持調查的一致性跟品質。