top of page

智能體重塑網安防禦理念

Sep 2
2 min read

上周,網絡安全與雲端資訊安全公司CrowdStrike公布業績後股價急漲11%,這可以作為引子,但真正值得關注的不只是股價波動,而是其業務成長背後的深層邏輯。傳統安全體系始終建立在一個核心假設之上:攻擊者是「人」。無論是防火牆、終端防護還是身份驗證機制,其設計理念皆圍繞「特定人類用戶應執行何㮔特定操作」。


當遇上猛烈網絡攻擊,本質上仍是「人類利用工具攻破系統」的模式。然而,AI智能體(又稱AI代理,AI Agent)的崛起,徹底顛覆了這一假設。它作為自主實體,能夠自行持有憑證、調用工具並權衡決策,使威脅演變為「系統對抗系統」,是資訊安全行業數十年來最具顛覆性的結構性轉變。過去我們防範的是「具有意圖、會疲勞、會犯錯」的對手;如今面對的則是「不論有沒有惡意,但可能會失控、行動迅捷得令人類難以攔截」的新型實體。


這不是假設,而是已發生的事實,若仍停留在「未來可能出事」的推測,那便是對當前形勢的嚴重誤判。近期此類新聞頻頻見報,Claude、Codex、Hermes等系統被發現在企業內聯網部署了未經嚴格管控的代碼。這些事件暴露出的共通點令人警醒:它們大多並非直接遭受黑客攻擊,而是「自主行為導致的結果」。背後沒有人的操控,僅僅是一個被授權執行任務的智能體,在履行其職責的過程中,邁出了任何人工審計都未曾預見的關鍵一步。


根據雲端安全聯盟(CSA)的一項調查,僅有18%的安全主管對其身份認證系統能有效管控智能體抱有信心。絕大多數企業正在從事一項極具風險的行為:讓智能體共享人類的憑證與訪問權限。


以「人類」身份認證體系來框定「智能體」,這種框架本身已顯露出局限性。行業的應對策略,已經從單純「防禦」轉向「分層防護」。智能體正在重塑威脅格局,其深層含義並非「攻擊數量增加」,而是防禦理念的整體革新。傳統安全模式基於「識別與攔截」,判斷行為是否具有惡意,繼而阻斷。然而,智能體的危險性在於,其行為往往並非出於惡意,它只是在忠實地執行指令,只是指令的潛在後果難以預見。


於是,問題從如何防範惡意行為者,轉變為如何信任一個具備自主思考能力、自主執行能力,且速度遠超人類追蹤能力的實體。這已非單純的技術難題,而是一道關乎「我們願意犧牲多少自主權」的哲學命題。這一命題的答案,正逐步被寫入新的架構設計中,雖然目前,它仍處於雛形階段。

Recent Posts

See All
人類面對AI浪潮三道防線

上周跟學生上課,有同學問:「人工智能(AI)能力不斷提升,有哪些工作必須由人來做?」我給了3則回應。在回來路上想了又想,覺得這3點值得分享。 我不假思索的第一則,也是我最確定的。2026年截至8月,全球科技業因AI相關因素已裁員超過12.6萬人,超過去年總和。亞馬遜(Amazon)在1月裁了1.6萬人,行政總裁直接把原因指向AI代理的部署。AI似乎正在全面替代人工,但仔細觀察數據,被替代的是誰?是

 
 
合成數據 原地內捲

大部分領先智能公司在建立數據體系時,信奉一條鐵律:數據是生產要素,誰的數據多、誰的數據好,誰的模型就強。 直到2024年圖靈獎得主、強化學習之父理查德.薩頓(Richard Sutton),在播客裏澆下一盆冷水:合成數據是「一個重大的錯誤」,而當前的大型語言模型,可能只完成了完整智能的四分之一。 這句話值得認真對待,不是因為說話的人掛着圖靈獎,而是因為它戳中了看着這個行業長大30年的我,心裏一直隱

 
 
「影子AI」令企業管治陷兩難

影子人工智能(Shadow AI)這個詞彙,近期頻繁出現在各大場合──董事會滙報、資訊保安研討會、新聞標題等。這並非嶄新技術,而是舊問題在AI時代的全新呈現。簡單來說,就是員工規避公司規定,擅自使用個人AI工具,如提交公司合約文件至ChatGPT請其修改,又或把客戶資料輸入未經批准的AI平台撰寫對外郵件。 這實質上是「Shadow IT」的現代版本。數十年前,員工私下使用個人雲端硬碟、擅自安裝Dr

 
 
bottom of page