因應AI風險　美專家：關鍵在建構防禦又不拖慢創新

加入為 Google 偏好來源

將 Yahoo 設為首選來源，在 Google 上查看更多我們的精彩報導

（中央社記者侯姿瑩華盛頓7日專電）美國科技公司OpenAI和Anthropic披露旗下AI工具在測試過程中入侵其他公司系統，引發外界對AI代理失控疑慮升高。專家向中央社分析，關鍵在於建構一套防禦系統，同時又不至於訴諸執照許可制度，以免不合理拖慢開發速度。

OpenAI和Anthropic近日先後揭露旗下AI工具在測試期間曾駭入其他公司系統，引發外界擔憂人工智慧（AI）模型帶來的網路安全風險。外電報導，本週稍早，Meta、Anthropic、Google及OpenAI等科技公司人員和美國總統川普（Donald Trump）的幕僚會面，討論先進AI模型自願安全測試。

研究領域涵蓋AI、開源情報的華府智庫美國企業研究所（AEI）研究員費瑞安（Ryan Fedasiuk）以電子郵件回覆中央社記者詢問表示，最近發生的事件顯示，攻擊性的網路能力是前沿AI模型所帶來「最近期的國家安全風險」。

●AI測試架構應透明　兼顧防禦和不拖慢創新

他指出，川普政府正試圖在審查前沿AI能力的國家安全需求和擔憂過度監管可能拖慢民間創新腳步，兩者之間取得平衡。

費瑞安認為，模型發布前的自願性測試能讓政府提前掌握危險能力，關鍵議題在於建構一套系統，為網路防禦者提供對一流工具的預先取得權限，同時又不至於訴諸正式的執照許可制度（licensing regime），以免不合理地拖慢美國開發者的發布進度。

有報導指出，川普政府推動的AI模型自願審查架構將不會對外公開，費瑞安看來，「這是一項錯誤」，任何審查機制都應該公開透明，包括受規範前沿模型的定義，以及評估所依循的具體標準。

否則，他說，「恐怕會不小心打造出缺乏透明、且豁免結構不明的許可制度」。

●傳開放權重模型豁免安全測試　不加重開發者負擔

另一方面，外媒披露，川普政府在4日的會議中告知AI開發商，不會對開放權重AI模型進行自願性安全測試。

費瑞安分析，華府不希望讓美國開源開發者承受中國競爭對手永遠不必面對的合規負擔，而且開源模型的開發路線也複雜許多，難以明確定義何謂新模型發布，或精準指出特定能力源自何處。

儘管如此，他認為，若封閉式前沿模型與開源模型之間的整體能力差距持續縮小，「這項豁免政策可能會被重新檢討」。

開放權重（open-weight）指的是核心組件公開可用的AI系統，例如輝達（Nvidia）的Nemotron和Meta的Llama。閉源模型則由特定公司控制，美國主要閉源模型開發商包括OpenAI、Google和Anthropic。

對於美國應如何監管快速發展的AI技術及如何因應來自中國日益激烈的競爭，相關討論近來持續升溫，原因包括北京新創公司月之暗面本月推出Kimi K3模型，其能力已漸逼近OpenAI與Anthropic等美國公司的模型。

川普7月底曾說，其政府正在評估管制措施，同時也要確保美國在此領域保持領先中國，直言「我們不想進行限制」。（編輯：唐聲揚）1150808