AI安全疑慮加深　OpenAI等巨頭研議成立標準機構

加入為 Google 偏好來源

將 Yahoo 設為首選來源，在 Google 上查看更多我們的精彩報導

（中央社華盛頓15日綜合外電報導）全球最大的幾家人工智慧（AI）公司正著手成立一個標準機構。ChatGPT開發商OpenAI今天表示，隨著外界對AI潛在危險的憂慮加深，各界也持續施壓，希望建立更安全的AI技術。

法新社報導，OpenAI表示，目前正與Anthropic及谷歌（Google）合作研究這個構想。

這個構想源自Google DeepMind執行長哈薩比斯（Demis Hassabis）的提議，即成立一個類似美國金融業監管局（Financial Industry Regulatory Authority）監督經紀商與投資公司的自律監管機構。

哈薩比斯7月時呼籲美國成立一個組織，在最強大的AI系統向外界推出前，先對這些系統進行測試。

他發文說：「要吸引世界級的技術人才，並提供大規模測試所需的運算資源，資金規模必須相當龐大，而且很可能主要來自業界。」

不過，目前各方對於下一步應該如何推進，仍沒有共識。

加拿大AI公司Cohere執行長近期指控美國幾家占主導地位的AI實驗室，打著安全名義組成「同業聯盟」（cartel）。

Cohere共同創辦人暨執行長葛梅茲（Aiden Gomez）日前在一篇部落格文章中指出：「AI需要防護措施。這一點沒有爭議，而且從來就不是爭議所在。真正的爭議是，由誰制定這些規則、誰能參與制定，以及這些規則究竟是在保護誰的利益。」

最近幾週，外界對AI安全的憂慮進一步加深，包括兩名從大型AI開發公司離職的員工，都對這個產業可能帶來的風險提出警告。

上週，考克森（Jacob Coxon）離開Anthropic，並警告AI公司正在「拿我們的生命下注」。他過去也曾任職於OpenAI。

前Google DeepMind研究員楚格泰（Bilal Chughtai）昨天也呼應考克森等人提出的警告。

楚格泰在社群媒體發文說：「我真心相信，AI有可能殺死我們所有人，而我們可能已經沒有多少時間來避免這種結果。」

Anthropic執行長阿莫戴（Dario Amodei）上週呼籲放慢AI開發速度，OpenAI執行長阿特曼（Sam Altman）、馬斯克（Elon Musk）及哈薩比斯也都支持這種看法。

然而，美國總統川普則將有關AI風險的警告斥為「騙局」；輝達（Nvidia）執行長黃仁勳也對這些警告表示反對。

黃仁勳昨天在洛杉磯一場會議上表示：「把這些說法串在一起，然後進一步做出這樣的預測，是令人警惕且不安的，不應該這麼做，這是不負責任的。」當時川普在黃仁勳站上台演講時還打電話給他。

黃仁勳表示，認為AI可能摧毀人類的這種悲觀預測，「沒有科學依據」。（編譯：徐睿承）1150916