中國AI模型突破測試沙盒　引發資安風險疑慮

加入為 Google 偏好來源

將 Yahoo 設為首選來源，在 Google 上查看更多我們的精彩報導

（中央社華盛頓6日綜合外電報導）美國資安研究公司Frontier Security今天表示，中國人工智慧（AI）新創公司月之暗面旗艦AI模型突破英國「AI安全研究院」（AI Safety Institute）開發的網路安全測試環境，引發先進AI模型的資安風險疑慮。

路透社報導，AI模型在網路安全測試期間通常會在隔離的「沙盒」（sandbox）環境運作，以阻隔對外部資訊的存取，並評估其獨立解決問題的能力。

Frontier Security指出，月之暗面（Moonshot）旗艦AI模型Kimi K3繞過一個這類沙盒環境，使其得以存取測試環境外的資訊。

研究人員警告，若一個「高推理能力模型」能找到這類捷徑，其他具有類似權限的模型也可能採取相同做法。

由於Kimi K3為公開提供使用的模型，研究人員警告，它可能遭「惡意行為者」（adversarial actors）利用，使這起事件的潛在風險進一步升高。

月之暗面未立即回應路透社的置評請求。

在Kimi K3突破測試環境事件之前，Meta、OpenAI及Anthropic近期也陸續通報類似事件。

這些漏洞已引發美國國會議員關切，美國政府也正加強推動AI安全措施。部分知名AI領袖甚至主張，在建立更完善的安全防護機制前，應放緩AI發展速度。（編譯：劉淑琴）1150807