探索黑盒子 AI開始理解自己了嗎？

加入為 Google 偏好來源

將 Yahoo 設為首選來源，在 Google 上查看更多我們的精彩報導

每回AI出現重大突破，全球目光多半聚焦在模型變強、參數變多，就在美國國慶前夕，Anthropic做了一件不太一樣的事，沒發布新一代Claude，卻公開名為《在語言模型中可言語化表徵所構成的全域工作空間》的研究論文，雖然很學術，但它想回答的問題極單純，就是AI到底是怎麼「想」出答案的？

隨著模型能力迅猛提升，一個問題愈來愈受到重視，人類真能知道AI如何推理嗎？答案其實並不容易。深度學習長期被稱為黑盒子，研究人員知道輸入與輸出，卻難以解釋中間過程，這種未知，不僅是學術困惑，也直接影響AI是否值得信賴，當模型出現幻覺、推理錯誤、偏見或遭惡意攻擊時，真正原因依然隱藏在數千億參數之中。

研究團隊用一套叫做J-Lens的分析工具，在Claude模型內部，找到一個特別區域，命名為J-Space，這個區域不是預先設計的模組，是在推理過程裡自然形成的共享工作區（Global Workspace），如同公司不同部門平時各自運作，遇到需要跨部門討論判斷時，才把重要資訊送往會議室裡共同決策。

研究神奇之處，是研究人員不僅觀察，還能直接介入J-Space更換資訊，看看答案會不會跟著改變，如詢問「會織網的動物有幾條腿？」，模型會立即想到「蜘蛛」，回答八條腿，研究團隊把蜘蛛概念換成「螞蟻」，答案隨之變為六條腿，再如足球改為橄欖球、法國換成中國，答案也都跟著改變，類似替換實驗顯示，模型並非零碎記憶知識，而是先形成整體概念，再順著概念推導出細節，研究裡還發現，當暫時關閉J-Space後，日常問答依舊表現良好，但遇到數學計算、多步推理等複雜任務，能力便明顯變差，這些結果再再說明J-Space可能就是AI推理整合的關鍵過程。

過去AI研究多靠觀察行為、事後猜測來推敲AI是怎麼想的，這篇論文首次展現一套從觀察到修改，再到驗證模型內部表示的方法，讓研究從「相關性」邁向「因果性」，這也是自然科學建立知識的核心方法。

或許，許多人會聯想AI是否開始有意識了？論文作者態度相當謹慎。J-Space確實受到神經科學的「全域工作空間理論」啟發，這個理論認為，人腦分散各處的神經活動，在需要被廣泛使用時，就會匯聚到一個共享空間，再擴散出去，形成有意識的思考過程。Anthropic也強調，他們僅是借用這個理論描述J-Space的功能相似性，並不代表AI已擁有主觀意識，更不能據此推論通用人工智慧（AGI）已然來臨。

於此之前，AI產業間的競爭，比的是誰的GPU多、模型規模大、資料中心強，這篇論文指出了一個新的競爭方向，誰能更深入了解模型內部運作機制，誰就有機會提升能力、減少錯誤、強化安全性。換言之，AI產業重心，正由把模型做大，逐漸轉向將模型看懂。

現階段，AI若出現偏見、幻覺，或者被誘導做壞事，業界解法多是重新訓練模型，但此法較慢且被動，如果能直接理解模型形成決策的內部機制，研究人員便有機會在問題發生前提前修正，這對醫療、金融、公共治理等高風險領域格外重要。

當然，新能力也伴隨著新挑戰，今天能修改蜘蛛跟螞蟻，未來是否能修改價值判斷、人格風格，甚至政治立場？當模型內部逐漸可被操控，AI倫理勢必出現新課題。

過往人類幾乎把所有力氣花在把AI模型做得更大，現在，研究重心開始轉向理解模型本身，這篇論文並未宣告AGI到來，也沒揭開所有黑盒子的秘密，但讓研究者第一次用系統性方法，觀察並干預大型語言模型的推理過程。倘若深度學習開啟了AI能力躍升的時代，這篇論文很可能標誌著另一個新階段的開始，未來決定AI競爭力的關鍵，除了運算與資料，還包括誰能真正理解黑盒子裡的推理機制，只要這個方向持續成熟，這篇論文應當會被視為AI從「建造模型」走向「理解模型」的重要歷史起點之一。（作者為富瑜文教基金會執行長）

【看原文連結】