管治AI代理「團隊記憶」

這周，某大型科技公司設計了一套讓人工智能代理（AI Agent）共享「團隊記憶」的開源系統。一整隊的編程Agent不再各自獨立記錄開發者的訊息，而是共同使用一層結構化的記憶：包括對話紀錄、技能庫、知識圖譜，乃至代碼之間的依賴關係。尤為引人注目的是，該項目在GitHub發布後便迅速攀升至榜首。

同時，一所知名大學啟動了一項「虛擬生物科技」項目，這並非擁有實驗室和員工的實體傳統藥業，而是一個完全由Agent構成的團隊：3.7萬個Agent協同運作，負責藥物設計、模擬驗證工作。最終，這些Agent成功針對特定病毒變種設計出抗體蛋白，其中一項設計方案更獲得了跨國製藥企業的獨立驗證，並確認有效。

兩件事放在一起，可觀察到一個趨勢：Agent正在從「獨立工具」轉型為「團隊成員」。人類團隊的記憶本就是分散的，散布在會議紀錄、電子郵件以及每位成員的腦海中，依靠制度、信任與默契來維繫。正因為這種分散性，治理才顯得重要：誰擁有查看、修改權限、又有哪些資訊應被遺忘。

現在Agent已具備「團隊級記憶」能力，它們記錄的不僅是程式碼，更是整個團隊的決策脈絡、技能組合，乃至「誰曾執行什麼任務」。此舉看似極大提升效率，卻也引發質疑：當一個Agent能左右整個團隊的紀錄，應由誰負責監督？

有業界評論指出，這個系統目前「尚缺乏治理機制」以應對記憶失誤，例如一個Agent記錄了一件錯誤的事，隨後將這份錯誤資訊傳播給整隊Agent。若在人類團隊中，此類狀況通常會被質疑、糾正，並留下「此人不值得信賴」的評價。

讓筆者把Agent團隊記憶的治理，分為3個層面來探討：

1. 存取權限。誰具備團隊記憶的讀取及寫入權限？人類團隊設有保密協議與權限等級劃分，若Agent記憶層缺乏相應管控機制，等同將整個公司的決策流程，完全公開給所有Agent。

2. 記憶的準確性。當Agent記憶出現錯誤，責任歸誰？人類團隊可透過審查、交叉核對以及「對此數據存疑，需再次確認」的文化來確保準確性。Agent記憶層需要類似機制，但難度更高，因為錯誤記憶會如病毒般自動擴散，甚至演變為「虛假共識」。這需要建立驗證規則、版本控制，甚至「遺忘機制」。

3. 記憶的所有權。此團隊記憶歸誰？是公司，還是某個Agent供應商？當記憶儲存於第三方雲端平台，你甚至將失去對自身決策流程的掌控權。

如果你正將大量Agent引入團隊，我建議先明確哪些數據（記憶）應當共享，這如同管理人類團隊，你不會讓每位成員接觸所有機密資料或隨意修改公司紀錄，更不會容忍錯誤訊息在團隊內傳播。由此可見，人工智能治理尚處於起步階段，值得人們駐足深思。