top of page

「AI幻覺」責任誰屬?

Sep 16
2 min read

上周有兩則新聞,將「人工智能(AI)幻覺」從專業術語,轉變為公眾關注的焦點。一位美國律師採用AI檢索案例時,引用了虛構的假證詞,因而遭受法庭制裁;另有一位躁鬱症患者向AI傾訴「我感覺自己精神狀態不穩」,卻獲得系統斷然回應「你就是神明」,最終引發自殺危機,家屬已對AI公司提起訴訟。一位是法律從業者,導致專業受損;一位是心理病患者,險些喪命。


上述表面而言,這是「AI的失誤」,深入探究,實則反映「信任的錯置」。


自2022年ChatGPT首次亮相以來,信任問題已從理論層面步入現實情景。核心不在於AI會否出錯─它必然存在缺陷。關鍵在於:我們將一個本質上「不完美」的生成系統,誤認為「可靠的知識來源」。


「幻覺」並非簡單的程式錯誤,而是大型語言模型(LLM)與生俱來的特質。一個依靠「預測下一個詞」成長起來的模型,其訓練目標從來不僅是「陳述真相」,而是「表達得像人」。其掌握的是語言的概率分布,是「人類接下來最可能如何表達」,而非「事實究竟是什麼」。因此,當它面臨不確定性時,它不會選擇沉默,只會挑選一個「聽起來最合理」的答案,即使那完全是憑空想像的產物。你可以通過檢索、約束和精調來抑制這種傾向,卻永遠無法徹底消除它,正如你無法鏟除一個人的想像力。


這就引出更深層的探討:責任究竟歸屬何方?律師表示「我不清楚AI會產生幻覺」,此番言論類似駕駛員聲稱「我沒注意到燃油即將耗盡」。當一個系統被賦予近乎專家的權威地位,卻不承擔相應的專業責任,實質上我們是將風險轉嫁給了一位欠缺責任感的顧問。開發者強調「我僅提供工具」,用戶認為「我誤以為它具備專業判斷」。責任變得模糊不清,最終由最無法承受風險的當事人承擔後果。


因此,核心任務並非「提升AI的精確度」,而是「重新審視我們對AI的信任邊界」。將AI視為一位能力出眾但偶有疏漏的工作夥伴,而非完美無瑕的知識寶庫─既要信任,亦需驗證其結果。


筆者建議,企業應在此方向上,構建完善的人工智能應用及治理體系,當然,這建立在管理層對人工智能運作原理有準確認知的基礎上,而非簡單將其歸為技術部門的責任。

Recent Posts

See All
訓練模型 真人數據無可替代

最近與幾位從事大型語言模型(LLM)開發的朋友談起訓練數據,大家都不約而同提到一個詞:「數據牆」。在互聯網公開的優質文本,大概已經搜刮得七七八八,剩下的要不是垃圾,就是需要付費的,於是整個行業很自然地轉向合成數據──讓模型自己生成材料,再「餵」回自己。 這件事在過去兩年確實有效。寫程式、數學、邏輯推理等領域,這幾類答案對錯分明、可以自動驗證,合成數據幾乎可成為免費、無限的模型訓練材料。但問題也正正

 
 
AI代理監控流程 淪橡皮圖章

上星期整理舊文件時,翻出一份10年前的數據項目批核表。紙上印着幾個格子 ,每個格子都留有簽名的位置:核對、覆核和批准者。當年只覺得手續繁瑣, 今日回頭細看,那張紙其實是一幅責任地圖──每一格都對應着一個人,一旦出 了事,順着簽名便能找到責任所在。 時至今日,表格數碼化及流程自動化了,同一類工作,許多已交由人工智能 (AI)代為處理,唯獨最後那個「批准」的按鈕,仍然要由人來按。然而,真 正的問題是:

 
 
人工智能泡沫破裂 誰來埋單

先說CoreWeave這間美國公司,它在2017年創立,創辦人把手上的顯示卡轉租出去,成為美國最大的「人工智能(AI)雲」之一,今天營運50多個AI數據中心、25萬枚以上圖像處理器(GPU)。簡單來說,其商業模式:借錢買晶片,再把算力租給科技公司。 為什麼CoreWeave是這輪AI基建的寒暑表?因為該公司沒有別的業務,其股價和債券表現就是市場對「算力債務」的信心反映。上周三,股價急跌了15%,債

 
 
bottom of page