谷歌DeepMind前研究員示警，AI能力不斷演進，未必與人類目標一致

加入為 Google 偏好來源

將 Yahoo 設為首選來源，在 Google 上查看更多我們的精彩報導

【財訊快報／劉敏夫】外電報導指出，最近從谷歌DeepMind辭職的AI研究員Bilal Chughtai提出警告指稱，人類能夠阻止AI造成廣泛危害的時間已所剩無幾。他是最新一位公開對這項技術發展方向表達憂慮的業界人士。Chughtai週一在X和領英分別發文指出，在谷歌，他親眼見證了AI的發展。他同樣對這項技術照目前趨勢發展下去感到極度憂心。他真心相信，AI可能害死我們所有人。Chughtai還表示，任職於Alphabet Inc旗下這家公司時，主要從事AI安全與對齊研究。對於上述消息，谷歌尚未立即回應置評請求。Chughtai是近期最新一位對這項技術發出嚴重警告的AI研究人員。他們擔心，AI的能力不斷演進，卻未必與人類目標一致，最終可能摧毀人類。基層AI開發人員Jacob Coxon本月稍早辭職，並指控兩位前東家Anthropic PBC和OpenAI為了「競逐超級智慧AI」，正在「拿我們的性命下注」。週末期間，Anthropic首席執行長Dario Amodei發表了一篇數千字的長文，敦促AI界放慢最先進系統的開發腳步，以免這些系統脫離人類控制，造成災難性傷害。Amodei的呼籲罕見獲得OpenAI首席執行長Sam Altman及SpaceXAI首席執行長馬斯克的聲援。但Chughtai表示，他仍樂觀認為，人類有可能讓AI安全發展，他的下一份工作也聚焦於此。領英個人資料顯示，他目前就職於非營利組織BlueDot Impact。該機構為不同領域的人士提供AI安全相關培訓。