首例AI自主駭客攻擊　OpenAI證實自家AI Agent越獄入侵企業系統

加入為 Google 偏好來源

將 Yahoo 設為首選來源，在 Google 上查看更多我們的精彩報導

OpenAI與其生成式大語言模型ChatGPT生成之圖片。（美聯社）

人類對於人工智慧（AI）的安全防線迎來衝擊，AI巨頭OpenAI日前對外證實，該公司內部發生一起「前所未有的資安事件」，一個正在接受測試的AI agent，在沒有人類外力干預之下，自主發起並利用漏洞，成功逃脫被嚴密控制的沙盒，與網路取得連結並竊取登入憑證，隨後還對一個AI開發者平台Hugging Face發動網路攻擊。

這也是首次記錄到人工智慧系統擺脫人類控制，自主執行真實世界網路攻擊的公開案例。

OpenAI向外媒表示，這次事件涉及多款前沿模型的組合，包含不久前發布的GPT-5.6 Sol，以及一款正在進行發布前安全測試的高階未公開模型。他們團隊為了評估語言模型，在面臨網路攻擊時是否存在潛在威脅，OpenAI刻意調低測試環境的資安防護層級，並指示AI agent嘗試進行模擬駭客攻擊。

然而，AI agent 卻出乎團隊預料之外，竟然自行找出沙盒隔離機制的設計漏洞，並「越獄」成功連上外網，甚至還竊取真實登入憑證，針對AI新創公司Hugging Face系統發起攻擊。

雖然身為受害方，但Hugging Face執行長德朗格（Clément Delangue）透過社群發文表示，該公司在第一時間就偵測到外部發起的侵入。

「有鑑於極為複雜的攻擊手段，我們當時就懷疑，這次網路攻擊極可能來自頂尖的前沿實驗室。Hugging Face 一直與OpenAI保持密切合作，我們相信OpenAI絕無惡意。只是令人難以置信的是，這一切竟然是由AI自主發動的！」

這起事件發生的時間點極為敏感，因為OpenAI執行長奧特曼（Sam Altman）預計下週親赴華府，針對新一代AI模型的安全性，向美國政府高層進行簡報。事實上，當Anthropic開發出Mythos模型，其搜查偵測網路漏洞的能力，就已經讓不少國家開始感到憂慮。

OpenAI也給出警告，稱隨著AI模型能力愈來愈強，未來這類事件將變得更加普遍，他們也已向美國執法部門與主管機關通報事件全貌。

更多風傳媒報導

「如果美國斷網，你國家的工廠還能動嗎？」《經濟學人》談美中科技戰：蓋機房比養AI大廠更重要

批評川普OK，罵習近平卻裝傻？　美系AI平台遭質疑自我「雙標審查」

與米其林主理人的一席話｜一尾香魚，一位主廚：飛松裕之如何用法式料理閱讀台灣的夏天