i卡會員

黃仁勳擔任執行長的輝達，廿八日針對人工智慧（ＡＩ）推出新的安全工具，號稱可阻止ＡＩ代理人失控。輝達指稱，若早安裝這套用於ＡＩ代理人的軟體安全工具，就可避免此前發生的ＡＩ新創公司Hugging Face遭駭事件。

上述工具名為OpenShell，以輝達的中央處理器（ＣＰＵ）晶片硬體功能，將ＡＩ代理人限制在特定環境內。輝達也正和安謀（Arm）及英特爾等合作，確保安全系統能在這兩家公司的ＣＰＵ運作。

輝達企業運算部門副總裁兼總經理包泰諾對媒體簡報時表示，這套工具可阻止Hugging Face遭駭的事件；「就我們所知，要是前沿實驗室在早期的ＡＩ模型評估時，就使用新的安全平台，原本可以阻止這起事件發生。我們正公開推動（使用這套工具），也希望大家與我們攜手合作」。

輝達的另一套系統名為Sentry，使用輝達晶片搭配OpenShell。一旦ＡＩ代理人試圖逃離ＣＰＵ的限制，就可以藉此阻斷失控的ＡＩ代理人。

輝達的工具使用數學公式偵測試圖繞道的ＡＩ代理人，像ＡＩ代理人可能生成「子代理人」，規避系統對主要ＡＩ代理人的阻礙。

OpenAI和Anthropic的ＡＩ代理人，已傳出多起駭入企業及政府系統的事件，這兩家公司正對此進行內部調查。

路透廿八日報導，輝達以一三○億美元（台幣約四一四一億元）收購Hugging Face。而Hugging Face曾遭OpenAI失控的ＡＩ代理人入侵。輝達正聯手包含Anthropic的幾十家合作夥伴推出相關工具。