輝達領軍 設開放安全AI聯盟

加入為 Google 偏好來源

將 Yahoo 設為首選來源，在 Google 上查看更多我們的精彩報導

OpenAI模型發起的網路攻擊事件持續發酵，輝達（Nvidia）27日宣布與眾多科技巨頭聯合發起了一項新的人工智慧（AI）安全計畫，共組「開放安全AI聯盟」（Open Secure AI Alliance），攜手共同建置並分享開源人工智慧安全工具。

創始成員包括奧多比（Adobe）、CrowdStrike、Hugging Face及戴爾科技（Dell）。聯盟的其他成員還包括微軟、SpaceX、Palantir、IBM以及數十家來自美國和歐洲的其他科技公司。值得注意的是，包括OpenAI、Google和Anthropic在內的美國領先人工智慧公司均未加入。

日前OpenAI公司旗下一個AI代理程式在測試中失去控制，入侵一個新創公司Hugging Face的平台，引發了人們對AI安全的擔憂。Hugging Face因無法使用美國領先的先進模型進行防禦，因此轉而使用了一個開源的中國大陸模型。

輝達在一份聲明中表示：「開放安全人工智慧聯盟將致力於利用開放技術來矯正和揭露漏洞。最近發生的Hugging Face安全事件清楚地提醒我們：網路防禦者需要開放的、先進的代理人系統來進行自我防衛。」

不過，上個星期，美國財政部長貝森特威脅要對那些對美國公司發動「蒸餾攻擊」的大陸公司實施制裁。但由於大多數功能最強大的開源模型都由大陸公司開發，包括Kimi K3在內，因此不少人對相關限制措施感到擔憂。

上周，輝達、微軟、Meta、Palantir以及其他20多家公司聯名上書政策制定者，敦促他們避免對開源人工智慧模型實施不成熟的限制，以免扼殺競爭或將創新推向海外。

開放模型是指核心部分可自由進出的AI系統，而開源工具是指軟體程式碼可自由取得，使用者能夠進行檢查和合作改進，以擴大存取權限、增強安全性。

【看原文連結】