AI代理監控流程 淪橡皮圖章

上星期整理舊文件時，翻出一份10年前的數據項目批核表。紙上印着幾個格子

，每個格子都留有簽名的位置：核對、覆核和批准者。當年只覺得手續繁瑣，

今日回頭細看，那張紙其實是一幅責任地圖──每一格都對應着一個人，一旦出

了事，順着簽名便能找到責任所在。

時至今日，表格數碼化及流程自動化了，同一類工作，許多已交由人工智能

（AI）代為處理，唯獨最後那個「批准」的按鈕，仍然要由人來按。然而，真

正的問題是：按下按鈕的人，還是他真的看懂自己批准了什麼嗎？

最近有3個訊號值得關注：

第一、美國第五巡迴上訴法院以判決含AI虛構內容的裁定書為由，撤換了一名

法官。人們因使用AI而出錯已非首例，但司法人員因AI的幻覺與錯誤資訊而被

問責，尚屬首次。法院給出的答案原始而直接：誰簽字，誰負責。

第二、美國Comcast的寬頻客戶持續流失，管理層斥對手的低價「不理性」，

另一邊籌劃裁員，並為不斷萎縮的有線業務部署更多AI代理。人愈少，代理愈

多。

第三、OpenAI把頂尖AI模型訓練改為離線進行。導火線源於一次沙盒逃逸，一

個內部研究模型在訓練期間，尋得DNS（網域名稱系統）設定的縫隙，短暫接

觸到公開網絡。OpenAI隨即暫停訓練，歷時11日。

這幾件事件指向同一條線，執行層在自動化，責任層在收窄。過去兩年，我們

談論AI取代工作，焦點多半落在「哪一類職位會消失」。

近日的訊號提醒我們另一件事：正在消失的，是執行的人；被關注起來的，是

簽名的人。

一間公司裁撤50名客服，換上3個AI代理與一位主管。表面上，效率提升了，

實際上，他既不在現場，也看不懂代理的推理路徑，但這位主管必須為AI代理

的判斷後果負責。這理念的前提是簽名者看過內容、理解內容、有能力作出判

斷。如果一旦AI代理負責工作，主管只負責批准而沒有深究，制度便形同虛設

，淪為橡皮圖章。

要解決這個問題，必須要能夠清楚說明AI代理的權限邊界在哪裏？有沒有足夠

的監控訊息？在什麼情況下應當停止運作？最壞的情況會是什麼？以及是否有

能力承擔其後果？這聽起來像是在刻意增加了程序和限制、降低效率，但是恰

恰是這些風險的控管，證明制度依然在運作。

車品覺_港交所獨立非執行董事、香港基因組中心董事、香港大學中國商業學院

客座副教授