人工智能難問責 恐釀悲劇

筆者始終堅持一個判斷：技術的問題，往往不是技術的問題。本周，美國國防部長海格塞斯（Pete Hegseth）一則消息，又讓我把這句話重新檢視一遍。

海格塞斯宣布組建「自主作戰司令部」，這是一個新的四星級聯合作戰司令部，負責指揮、統籌無人機與機械人採購、測試及部署，尋求2027年撥款546億美元，明年10月投入運作。同一天，他又拋出「子午線計劃」，邀請富商馬斯克、前眾議長金里奇（Newt Gingric），給予他們120天時間，研究「月球及外太空」的未來戰場。

值得留意的是另外兩個並列的數據。同一場演講中，海格塞斯公布的轉型策略還包含裁減將領比例不少於10%。一方面削減人類指揮層級，另一方面構建機器指揮系統，這並非兩則獨立訊息，而是同一轉型過程的兩個側面：人類在指揮鏈中的節點逐步減少，相反機器在指揮鏈的節點不斷增加。中間正在消逝的那個重要環節，正是那個能為後果承擔責任的「人」。

這正是筆者這幾年在企業界觀察到的同一個難題。當企業在探討人工智能代理能否自主簽約、獨立操作數據庫、自行回覆客戶時，實質上爭論的核心問題如出一轍：授權的界限應劃定在何處，系統失控時誰有權覆核，以及事發後責任歸誰。這3個關鍵問題，企業仍在商討中，反而美國國防部已透過一個四星司令部給出了直接答案──賦予其權力、提供資金、設定時間表。

更令人憂慮的是，美國國防部2023年修訂的《3000.09指令》，明確規定所有自主武器系統的設計，必須允許指揮官和操作人員對「使用武力」實施「適當程度的人類判斷」。然而，鮮有人注意到，「人在環中」（Human-in-the-loop）這一關鍵表述人類的判斷與介入，自始至終未在該政策文件中出現。這表明，在「自主作戰司令部」成立之前，美國對於人類應保留多少控制權這一核心問題，僅以一個模糊的形容詞加以描述。「自主作戰司令部」的設立，實際上等於公開承認：我們已準備將「開火決策權」，賦予一個尚未建立明確問責機制的系統。

筆者認為科技是工具，非盲目追求目的，其存在的意義，在於提升人類生活質素，而非本末倒置地束縛及支配人類命運。在應用於軍事領域上，此觀點須略作調整，科技作為工具，應當輔助人類作出更審慎且負責任的重要決策，而非陷入無法回頭的困境。真正的危險，並非人工智能是否會取得成功，而在於人類是否在追求「成功」的過程中，把判斷與責任承擔交給機器，最終沒有人需要為錯誤與傷亡負責，造成無法逆轉的的悲劇。

車品覺 港交所獨立非執行董事、香港基因組中心董事、香港大學中國商業學院客座副教授