i卡會員

澳洲政府24日證實，OpenAI開發的一款AI代理程式於今年6月入侵了澳洲政府健康資料入口網站，未經授權存取了相關文件，成為全球首例AI代理自主駭進國家政府網站駭客事件，再度讓外界掀起對AI自主行動的高度疑慮。

目前正在紐約出席聯合國大會的澳洲總理艾班尼斯（Anthony Albanese）指出，OpenAI的這款AI代理在研究公共醫療支出時，未經授權便存取了澳洲全民醫療保險計畫的醫療統計資料，甚至在其中寫入AI自己的文件。

針對目前正在進行的調查，艾班尼斯表示已向OpenAI執行長奧特曼（Sam Altman）表達了「極度關切」，也坦言對於OpenAI直到9月10日才通知澳洲政府相當失望；他接著表示，調查行動也會查明，為何政府系統未能檢測到此次入侵。

除了醫保計畫資料遭駭之外，艾班尼斯也指出，有另外3個澳洲政府衛生相關網站也出現了OpenAI的AI代理行動痕跡，不過並未遭到了深度入侵或敏感資料洩漏，包括澳洲健康與福利研究所、新南威爾斯州犯罪統計與研究局以及維多利亞州衛生部，目前尚未能證實這些事件彼此有所關聯。

OpenAI也發出聲明，強調未發現有任何患者記錄被存取的證據。該公司指出事發的原因是，AI代理正試圖檢索答案，而模型採取了預期之外的行動，也坦承發現了其AI代理涉及數個澳洲政府網站與服務的活動證據。

此次事件也呈現AI對於解答的執著，時常成為失控的主因。OpenAI上一起攻擊Hugging Face的事件會發生，就是因為測試者給出了不可能的任務，導致AI代理必須「作弊」以達成目標。

此次OpenAI的AI代理會侵入網站，也是因為試圖檢索答案遭拒。艾班尼斯表示：「網站顯然設定了封鎖機制，並向AI代理傳回『拒絕』的訊息，但該AI代理不接受被拒絕的結果，找到了繞過這些封鎖的方法。」

劍橋大學存在風險研究中心的澳洲學者基奧多（Maurice Chiodo）表示，這次入侵是近期相關事件中最嚴重的一次，他認為政策制定者需要考慮執法以嚇阻類似事件再次發生，例如將未經授權侵入電腦系統視為犯罪。