別急著把AI代理當員工！井琪：AI能執行任務卻無法當責，必須「嚴加管教」

加入為 Google 偏好來源

將 Yahoo 設為首選來源，在 Google 上查看更多我們的精彩報導

生成式AI橫空出世至今已3年多，大家的討論從一開始學生能不能用AI寫作業、哪些人會先失業、企業要不要建置自己的數據中心，到了近期的「在家養龍蝦」、企業如何管理AI代理（AI Agent）等話題，各種鋪天蓋地的訊息，其實也顯示出我們正處在AI焦慮之中。

讓我們稍微回憶一下2022年底，OpenAI發表了ChatGPT，自然語言的對話模式令各界驚豔。AI開始懂人話了，但它剛出世時的「知識」來自訓練資料，而非即時網路查詢，所以有時候從訓練資料組合出來的答案就成了「一本正經的胡說八道」。

在國際科技巨頭的不斷競爭和精進下，包括ChatGPT、Microsoft Copilot、Google Gemini等，AI的技術日新月異；2023至2024年大力發展RAG（Retrieval-Augmented Generation）、網路搜尋整合、企業知識庫連接等技術，讓模型在回答前先查證。

AI不僅能存取網路上的海量資料，在短時間內整理、分析、摘要、建議行動更不在話下。許多企業將AI導入營運，降本增效，提高品質與創作、生產力。

AI在藝術領域的功力也不遑多讓，生成圖片、影片，甚至創作音樂，大大豐富了社群媒體裡的影音內容，也造成行動網路使用量持續攀升，還有許多人將生成式AI當成「有問必答的萬事通」，解決生活問題、旅遊規畫等等。

在面對AI新科技和應用時，企業該如何導入AI，為其所用而不落人後，成了CEOs及高階主管們共同的課題。

最近AI代理的熱潮，同時衍生出「未來企業要把AI當員工來管理」等的新論述，難免更增加不少企業員工和主管對AI的焦慮，使得人心惶惶。「AI到底是敵是友？」「企業該如何應對，如何掌握它？」面對這些焦慮，卻也是很實際的問題和挑戰，我的個人看法如下：

一、別把AI擬人化：

現在的生成式AI已和剛發表時不可同日而語，AI代理更可以動手執行任務。但可先別急著要把AI當成員工還要編隊納入組織來管理。首先，即使現在的人機介面已不靠電腦程式，而是人言人語，它還是軟體、數位工具，它就不是人。

說遠一點，就好像當火車的出現帶來了交通革命，它以絕對的效率取代了馬車，但人們絕對不會要把火車頭當作馬匹一樣飼養照顧。說近些，當電腦軟體應用一個一個的出現，取代許多手動人工作業，公司的人資部門也沒有要把這些商業應用系統當成員工管理。為什麼AI就不一樣呢？

我們無須因為AI代理展現出高度的自主性與流暢的互動能力，就把它當成有血有肉的員工，科技的發展是持續不斷發生的過程（雖然這次AI實在有點太快），它將滲透進我們的工作流程與日常生活中，而不是立馬就變成科幻電影裡那種無所不能、具有自我意識還會談感情的超級個體。

延伸閱讀：別人還在AI陣痛，它用數百個AI代理創造數億美元效益！百年物流巨頭做對哪3件事？

二、AI無法當責，必須嚴加管教：

如果企業的AI代理執行了錯誤的工作而造成損害，你會敲著鍵盤罵它，然後看著它生成各種道歉文，還是找當時操作賦予AI代理權限與指令的員工問責？這也是最關鍵的，AI無法「當責」。

所以對待AI代理在公司的興起，企業應該要從HR的人力管理轉向更類似於IT系統治理（System Governance）的框架，對AI代理的權限、邊界、監督機制與責任歸屬都要有清楚的定義和管理監督辦法，還有流程內控制度的配套。

三、千里之行，始於跬步：

生成式AI帶動的科技進步，一日千里，給我們帶來了很大的衝擊，讓很多企業覺得遙不可及，不知如何去應變和改變。但千里之行始於足下，只要下定決心，邁出一隻腳，那跨出去的半步，就足以讓我們動起來吸收這些AI科技帶給我們的紅利。所以不用慌，也不要怕，讓科技回歸工具的定位，讓這項技術成為我們生活上和企業營運中最強大的助力。

AI真的很厲害，餘生請多指教。

延伸閱讀：網站改版了，AI卻讀不懂？善用Cloudflare免費工具，幫品牌官網做一次「代理人體檢」

責任編輯：陳祈安

更多報導免費AI課程哪裡上？3個政府平台懶人包：註冊步驟、課程連結、證書規則一次看電信業AI轉型第一步不是買GPU！遠傳資訊長胡德民：先解高頻問題，1,000人用就是董事會的成就