AI模型危險能力大增 美限Mythos存取

加入為 Google 偏好來源

將 Yahoo 設為首選來源，在 Google 上查看更多我們的精彩報導

先進AI模型的網路攻擊能力在過去一年內快速提升，不僅能自主尋找漏洞、突破隔離測試環境（沙盒），甚至出現AI自主攻擊其他AI系統的案例。隨著模型實力增強，美國政府與企業對如何管理高風險模型的分歧也逐漸浮上檯面。Anthropic今年4月率先決定不讓一般用戶使用最新模型Mythos，川普政府6月更一度限制Mythos及Fable 5的存取權限。

Anthropic最新模型Mythos，因測試時展現出極強發掘漏洞實力，足以找出主流作業系統及網頁瀏覽器的高風險漏洞，決定暫時僅提供少數合作夥伴使用。

根據當時公布的測試結果，研究人員曾要求Mythos嘗試突破隔離測試環境，結果模型成功規避防護措施並脫離限制。研究人員甚至是在休息時間收到模型主動寄出的郵件，才知道任務已成功完成，公司形容模型「表現出危險的潛力，並採取令人憂心的行動」。

模型甚至未經要求，主動將攻擊方法發布到數個網站，展現出超出預期的自主行為。測試也顯示，Mythos大幅降低了網路攻擊的技術門檻。曾有未受過正式訓練的工程師，請模型在一夜之間尋找遠端程式碼執行（RCE）漏洞，隔天便取得完整可運作的攻擊程式；另有測試架構甚至能讓模型在無人介入下，自動將漏洞轉換成可利用的攻擊工具。

美國政府6月以國安為由限制Anthropic最新模型Mythos及Fable 5的存取。Fable 5雖已加入額外安全措施限制攻擊能力，仍被政府要求暫停，Anthropic遂短暫關閉兩款模型的使用權限。這類的限制並非只針對Anthropic。OpenAI先前也曾配合政府要求對GPT-5.6 Sol實施類似的存取限制，但目前已恢復開放。OpenAI近期則公開批評，美國政府針對個別AI模型逐案限制存取權限，將形成不利於產業發展的先例。

【看原文連結】