防AI失控 業界喊設緊急停止開關

加入為 Google 偏好來源

將 Yahoo 設為首選來源，在 Google 上查看更多我們的精彩報導

Anthropic共同創辦人克拉克（Jack Clark）在接受《BBC》訪問時建議，如果AI軟體變得過於危險，須有方法能夠將其完全關閉，未來企業可能需要強制配備一種可由第三方查驗的AI「緊急關機」機制。另外，微軟執行長納德拉在一份內部備忘錄指出，AI發展應以安全為先。

Anthropic執行長阿莫戴（Dario Amodei）日前呼籲放慢人工智慧發展步伐，並加強監管。克拉克說，包括Anthropic在內的大多數實驗室都有不同的方法可以關閉系統，但他認為未來可能要由立法者強制要求企業設置這類機制。

克拉克表示，「緊急關閉」機制如何施行，例如是否應規定企業必須設有緊急停止開關？這個開關是否能由第三方驗證？應成為目前有關人工智慧政策討論的一部分，他希望最終透過立法來加以規範。

Anthropic於2021年由一批前OpenAI員工創立，最近準備首次公開發行（IPO），現正成為AI安全辯論的焦點。一名Anthropic研究員胡賓格日前發文表示，他個人認為未來10年內AI導致人類滅絕的可能性「超過10%」。不過，克拉克表示：「我不認為這類統計數字有太大作用。」但他補充說，讓AI繼續作為一個「完全不受監管的產業」發展，絕非良策。

另外，納德拉14日在一份內部備忘錄中就此發表看法。納德拉表示，AI應持續受到人類控制；他支持由第三方進行測試，並警告企業必須讓這項科技更安全，隨著牽扯到的利害越來越高，大家更應花上全部心力去重視安全，否則，最終將會失去繼續經營的許可。

【看原文連結】