i卡會員

OpenAI的AI代理失控事件再爆新受害者！該公司證實，旗下兩款模型在測試期間共對4家不同網路服務平台伸出魔爪，且成功駭入這4個平台上的不同帳戶。針對AI失控網攻事件頻傳，美國總統川普表示正在評估管制措施，但為確保美國在此領域保持領先中國，他也坦承「我們不想進行限制」。

受害的紐約科技公司Modal Labs指出，OpenAI的AI代理在逃脫測試用的封閉系統限制後，駭進旗下客戶的帳戶資產，由於該客戶在Modal平台上託管的隔離測試環境「沙盒」有漏洞程式碼，等同於在網路世界門戶大開，因此讓失控AI得以闖入。

在AI成功闖入該客戶沙盒後，便以此作為跳板，進一步在網路上發動17,600次的偵察與駭客行動，最終攻破了Hugging Face的伺服器。

Hugging Face先前曾表示，OpenAI的AI系統是先入侵第三方基礎設施上的沙盒，再攻擊自家伺服器，但當時並未點名第三方業者是誰。如今Modal對外揭露消息，也讓這起AI失控攻擊事件的時序更加清晰，目前已有兩家受害者得到證實。

不過，Modal也強調，雖然客戶的沙盒被駭，但是Modal平台本身沒有受到任何形式的侵害。

OpenAI雖未正面回應Modal聲明，但它在官網中承認，在對Hugging Face事件的持續調查中，發現「旗下模型的確識別、並利用其他平台外洩帳戶登入憑證」。

OpenAI表示，對於一款「尚未發布的內部研究原型模型」，目前已經停用、加密並限制其研究存取權限，至於另一款「已經公開發布的模型」，由於正常使用是安全的，因此並未對外宣布下架。

由於這兩款AI模型在7月9日至7月13日期間肆意攻擊，甚至連美國FBI都被驚動後OpenAI才知情。執行長奧特曼（Sam Altman）坦言，這是首起讓他「感同身受且體驗深刻」的安全事件，並說未來可能須放緩AI的開發速度。