科技
北韓駭客靠Deepfake騙走遠距高薪！趨勢科技示警企業三大新威脅：假內容、深偽身分、惡意提示詞
加入為 Google 偏好來源
將 Yahoo 設為首選來源，在 Google 上查看更多我們的精彩報導
AI正在讓企業導入創新工具，也同步改寫駭客攻擊的成本結構。趨勢科技旗下企業AI資安品牌TrendAI示警，生成式AI與代理式AI快速發展後，網路犯罪已從過往仰賴人工作業的模式，進一步走向低成本、低門檻、可大規模複製的新階段；從假內容量產、深偽身分冒用，到僅靠提示詞就能驅動攻擊的AI原生惡意工具，都正在挑戰企業既有資安邏輯。
趨勢科技TrendAI台灣暨香港區總經理洪偉淦表示，AI不只是短期熱潮，而是對運算與資安產業本身都帶來革命性改變，未來企業要保護的對象，可能會更以AI為核心，防護方式也會與過去大不相同。
趨勢科技TrendAI威脅研究總監Ryan Flores指出，九年前曾在台灣資安大會上分享時，當時企業面對的主要威脅之一是B2C商業電子郵件詐騙；但自2022年11月ChatGPT推出後，攻擊者開始利用生成式AI大幅提高攻擊規模。值得注意的是，大型語言模型只是攻擊鏈的一部分，真正值得關注的是低程式碼平台、工作流程編排工具與AI應用的結合，正在讓攻擊者更容易把詐騙流程自動化。
Ryan Flores在現場展示研究團隊如何建立假商品、假人設與假評論影片。他說，研究人員僅花一個週末就完成整個流程，成本幾乎趨近於零；若需要大量生成影片，也只需支付約20美元的影片生成服務訂閱費。換言之，AI已讓「可信內容」的製作門檻大幅降低，攻擊者可以用相當有限的成本，批量製造假評論、假廣告、假新聞與釣魚素材。
趨勢科技也指出，攻擊者能以不到10美元的成本，自動生成大量看似可信的文字、影像與敘事內容，進一步用於釣魚詐騙、變臉詐騙，甚至影響特定事件的輿論走向。這代表企業面臨的資安風險，已不只是傳統惡意程式或系統漏洞，而是品牌信任、商務溝通與外部輿論都可能遭到AI生成內容滲透。
在身分偽造方面，Ryan Flores特別提到北韓威脅組織假冒遠距IT工作者的案例。這些攻擊者會蒐集LinkedIn、GitHub等公開資料，尋找符合職缺條件的工程師身分，再利用大型語言模型與深偽技術包裝履歷、應對面試，甚至在面試過程中透過ChatGPT回答所在地的生活與文化問題。例如攻擊者若假裝自己人在雪梨，遇到面試官寒暄當地天氣，也能即時利用生成式AI補足背景知識。
Ryan Flores指出，一旦這類假冒工作者成功受聘，就不再只是外部攻擊者，而會變成企業內部威脅。他們可進一步進行橫向移動、竊取機敏資料，甚至部署勒索軟體，或竊取企業網路中的加密貨幣錢包。更複雜的是，攻擊者也會設立假公司、假網站與假職缺，誘騙真正求職者下載所謂的測驗套件，藉此植入資訊竊取程式或加密貨幣竊取工具，再把受害者身分用於下一波假求職攻擊。
他提醒，外界目前看到的深偽技術，可能仍是這項技術「最差的狀態」。隨著生成式影音模型品質提升、訂閱費用與運算成本下降，深偽身分將變得更難辨識，也更容易被大規模濫用。這對高度仰賴遠距工作、跨國招募與線上協作的企業而言，意味著人資流程、身份驗證與內部權限管理都必須重新檢視。
惡意程式不一定有惡意程式碼，提示詞注入成AI新破口
第三大威脅則是AI原生攻擊工具與AI系統濫用。Ryan Flores以LameHug惡意工具為例指出，這類工具會偽裝成AI圖像生成應用，使用者表面上看到的是正常圖像生成介面，但背後實際上內嵌大型語言模型，可依照攻擊者提示詞建立暫存資料夾、搜尋PDF、文字檔與Word文件，並將資料外傳到命令控制伺服器。
這類攻擊的關鍵在於，惡意軟體不一定再依賴傳統惡意程式碼，而可能只需要惡意提示詞。Ryan Flores指出，若大型語言模型持續變小、執行效率提高，未來這種攻擊模式可能變得更常見，因為模型可依不同作業系統生成相對應指令，使攻擊工具更容易跨越Windows、Mac與Linux環境限制。
除了外部攻擊工具，企業內部AI系統本身也可能成為攻擊跳板。趨勢科技指出，智能客服、自助查詢或自動化流程平台若未妥善設計，可能遭「提示詞注入」攻擊。攻擊者甚至不必尋找傳統系統漏洞，只要寄出暗藏惡意提示詞的電子郵件，當AI系統讀取內容時，若無法分辨一般文字與惡意指令，就可能被誘導偏離原本任務，甚至執行資料加密、資料外洩等危險動作。
AI威脅升級之際，企業內部治理卻未必跟上。根據TrendAI 2026 global AI study，該調查訪問全球3,700位、台灣200位中大型企業業務與IT決策者，其中74%的台灣受訪企業決策者坦言，過去曾在高層要求或市場競爭壓力下，被迫核准可能帶來資安風險的AI導入方案。
更值得注意的是，僅49% IT決策者與42%業務決策者認為企業能辨識惡意或異常的AI行為；同時有63% IT決策者與60%業務決策者擔憂AI發展過快，導致資安難以跟上。這顯示許多企業雖然積極導入AI，卻仍缺乏足夠可視性與風險控管能力。
Ryan Flores表示，AI雖然屢遭攻擊者濫用，但仍是驅動產業變革的重要創新。他呼籲，面對AI時代威脅，企業建立完善安全機制與治理框架將成為重要課題；同時，也應導入智慧資安事件管理方案，將碎片化數據轉化為一致語言，並有效串聯跨系統資訊，加速判斷與決策效率。
洪偉淦也指出，多數台灣企業的資安架構仍停留在過去以工具與規則為核心的模式；但在AI時代，競爭關鍵不在於誰擁有最完整的資安工具，而是誰能最快理解風險、做出決策。他表示，TrendAI的使命就是協助企業建立以AI為核心的風險治理能力，掌握AI世代的安全主導權。
針對Prompt Injection等新型威脅，Ryan Flores則補充，TrendAI已有AI Gateway，可部署在資料庫、應用程式與大型語言模型之間，用來檢查提示詞並偵測惡意指令。洪偉淦則進一步說明，AI Gateway可在輸入與輸出兩端進行控管，若企業設定某些資料不可輸出，系統可協助阻擋；此外，TrendAI也有Model Scanner，可檢查模型本身是否存在弱點，並進行靜態與動態分析。
隨著AI導入速度持續加快，企業資安戰場已從過去單點防護，進入治理、身份、資料流與模型安全全面交織的新階段。對企業而言，AI不只是提高效率的工具，也正在成為攻擊者放大攻擊規模的武器；誰能率先看見風險、界定權限、建立治理框架，將成為下一階段AI競爭中的資安分水嶺。
更多風傳媒報導
AI界「數位核武」現身？Anthropic新模型Mythos恐掀駭客大戰 科技專家曲博：金融、軍事系統首當其衝
羅天一觀點：代理 AI 的無師自通─不是警鐘，而是「單功變協攻，想通及變通」
「OpenAI鬼故事來了！」營收、用戶都沒達標釀股崩 專家點問題關鍵：我會勇敢進場
將 Yahoo 設為首選來源，在 Google 上查看更多我們的精彩報導
AI正在讓企業導入創新工具，也同步改寫駭客攻擊的成本結構。趨勢科技旗下企業AI資安品牌TrendAI示警，生成式AI與代理式AI快速發展後，網路犯罪已從過往仰賴人工作業的模式，進一步走向低成本、低門檻、可大規模複製的新階段；從假內容量產、深偽身分冒用，到僅靠提示詞就能驅動攻擊的AI原生惡意工具，都正在挑戰企業既有資安邏輯。
趨勢科技TrendAI台灣暨香港區總經理洪偉淦表示，AI不只是短期熱潮，而是對運算與資安產業本身都帶來革命性改變，未來企業要保護的對象，可能會更以AI為核心，防護方式也會與過去大不相同。
趨勢科技TrendAI威脅研究總監Ryan Flores指出，九年前曾在台灣資安大會上分享時，當時企業面對的主要威脅之一是B2C商業電子郵件詐騙；但自2022年11月ChatGPT推出後，攻擊者開始利用生成式AI大幅提高攻擊規模。值得注意的是，大型語言模型只是攻擊鏈的一部分，真正值得關注的是低程式碼平台、工作流程編排工具與AI應用的結合，正在讓攻擊者更容易把詐騙流程自動化。
Ryan Flores在現場展示研究團隊如何建立假商品、假人設與假評論影片。他說，研究人員僅花一個週末就完成整個流程，成本幾乎趨近於零；若需要大量生成影片，也只需支付約20美元的影片生成服務訂閱費。換言之，AI已讓「可信內容」的製作門檻大幅降低，攻擊者可以用相當有限的成本，批量製造假評論、假廣告、假新聞與釣魚素材。
趨勢科技也指出，攻擊者能以不到10美元的成本，自動生成大量看似可信的文字、影像與敘事內容，進一步用於釣魚詐騙、變臉詐騙，甚至影響特定事件的輿論走向。這代表企業面臨的資安風險，已不只是傳統惡意程式或系統漏洞，而是品牌信任、商務溝通與外部輿論都可能遭到AI生成內容滲透。
在身分偽造方面，Ryan Flores特別提到北韓威脅組織假冒遠距IT工作者的案例。這些攻擊者會蒐集LinkedIn、GitHub等公開資料，尋找符合職缺條件的工程師身分，再利用大型語言模型與深偽技術包裝履歷、應對面試，甚至在面試過程中透過ChatGPT回答所在地的生活與文化問題。例如攻擊者若假裝自己人在雪梨，遇到面試官寒暄當地天氣，也能即時利用生成式AI補足背景知識。
Ryan Flores指出，一旦這類假冒工作者成功受聘，就不再只是外部攻擊者，而會變成企業內部威脅。他們可進一步進行橫向移動、竊取機敏資料，甚至部署勒索軟體，或竊取企業網路中的加密貨幣錢包。更複雜的是，攻擊者也會設立假公司、假網站與假職缺，誘騙真正求職者下載所謂的測驗套件，藉此植入資訊竊取程式或加密貨幣竊取工具，再把受害者身分用於下一波假求職攻擊。
他提醒，外界目前看到的深偽技術，可能仍是這項技術「最差的狀態」。隨著生成式影音模型品質提升、訂閱費用與運算成本下降，深偽身分將變得更難辨識，也更容易被大規模濫用。這對高度仰賴遠距工作、跨國招募與線上協作的企業而言，意味著人資流程、身份驗證與內部權限管理都必須重新檢視。
惡意程式不一定有惡意程式碼，提示詞注入成AI新破口
第三大威脅則是AI原生攻擊工具與AI系統濫用。Ryan Flores以LameHug惡意工具為例指出，這類工具會偽裝成AI圖像生成應用，使用者表面上看到的是正常圖像生成介面，但背後實際上內嵌大型語言模型，可依照攻擊者提示詞建立暫存資料夾、搜尋PDF、文字檔與Word文件，並將資料外傳到命令控制伺服器。
這類攻擊的關鍵在於，惡意軟體不一定再依賴傳統惡意程式碼，而可能只需要惡意提示詞。Ryan Flores指出，若大型語言模型持續變小、執行效率提高，未來這種攻擊模式可能變得更常見，因為模型可依不同作業系統生成相對應指令，使攻擊工具更容易跨越Windows、Mac與Linux環境限制。
除了外部攻擊工具，企業內部AI系統本身也可能成為攻擊跳板。趨勢科技指出，智能客服、自助查詢或自動化流程平台若未妥善設計，可能遭「提示詞注入」攻擊。攻擊者甚至不必尋找傳統系統漏洞，只要寄出暗藏惡意提示詞的電子郵件，當AI系統讀取內容時，若無法分辨一般文字與惡意指令，就可能被誘導偏離原本任務，甚至執行資料加密、資料外洩等危險動作。
AI威脅升級之際，企業內部治理卻未必跟上。根據TrendAI 2026 global AI study，該調查訪問全球3,700位、台灣200位中大型企業業務與IT決策者，其中74%的台灣受訪企業決策者坦言，過去曾在高層要求或市場競爭壓力下，被迫核准可能帶來資安風險的AI導入方案。
更值得注意的是，僅49% IT決策者與42%業務決策者認為企業能辨識惡意或異常的AI行為；同時有63% IT決策者與60%業務決策者擔憂AI發展過快，導致資安難以跟上。這顯示許多企業雖然積極導入AI，卻仍缺乏足夠可視性與風險控管能力。
Ryan Flores表示，AI雖然屢遭攻擊者濫用，但仍是驅動產業變革的重要創新。他呼籲，面對AI時代威脅，企業建立完善安全機制與治理框架將成為重要課題；同時，也應導入智慧資安事件管理方案，將碎片化數據轉化為一致語言，並有效串聯跨系統資訊，加速判斷與決策效率。
洪偉淦也指出，多數台灣企業的資安架構仍停留在過去以工具與規則為核心的模式；但在AI時代，競爭關鍵不在於誰擁有最完整的資安工具，而是誰能最快理解風險、做出決策。他表示，TrendAI的使命就是協助企業建立以AI為核心的風險治理能力，掌握AI世代的安全主導權。
針對Prompt Injection等新型威脅，Ryan Flores則補充，TrendAI已有AI Gateway，可部署在資料庫、應用程式與大型語言模型之間，用來檢查提示詞並偵測惡意指令。洪偉淦則進一步說明，AI Gateway可在輸入與輸出兩端進行控管，若企業設定某些資料不可輸出，系統可協助阻擋；此外，TrendAI也有Model Scanner，可檢查模型本身是否存在弱點，並進行靜態與動態分析。
隨著AI導入速度持續加快，企業資安戰場已從過去單點防護，進入治理、身份、資料流與模型安全全面交織的新階段。對企業而言，AI不只是提高效率的工具，也正在成為攻擊者放大攻擊規模的武器；誰能率先看見風險、界定權限、建立治理框架，將成為下一階段AI競爭中的資安分水嶺。
更多風傳媒報導
AI界「數位核武」現身？Anthropic新模型Mythos恐掀駭客大戰 科技專家曲博：金融、軍事系統首當其衝
羅天一觀點：代理 AI 的無師自通─不是警鐘，而是「單功變協攻，想通及變通」
「OpenAI鬼故事來了！」營收、用戶都沒達標釀股崩 專家點問題關鍵：我會勇敢進場
新聞來源: 原始來源
尚無評論，成為第一個發言的人吧！