top of page

智能體重塑網安防禦理念

Sep 2
2 min read

上周,網絡安全與雲端資訊安全公司CrowdStrike公布業績後股價急漲11%,這可以作為引子,但真正值得關注的不只是股價波動,而是其業務成長背後的深層邏輯。傳統安全體系始終建立在一個核心假設之上:攻擊者是「人」。無論是防火牆、終端防護還是身份驗證機制,其設計理念皆圍繞「特定人類用戶應執行何㮔特定操作」。


當遇上猛烈網絡攻擊,本質上仍是「人類利用工具攻破系統」的模式。然而,AI智能體(又稱AI代理,AI Agent)的崛起,徹底顛覆了這一假設。它作為自主實體,能夠自行持有憑證、調用工具並權衡決策,使威脅演變為「系統對抗系統」,是資訊安全行業數十年來最具顛覆性的結構性轉變。過去我們防範的是「具有意圖、會疲勞、會犯錯」的對手;如今面對的則是「不論有沒有惡意,但可能會失控、行動迅捷得令人類難以攔截」的新型實體。


這不是假設,而是已發生的事實,若仍停留在「未來可能出事」的推測,那便是對當前形勢的嚴重誤判。近期此類新聞頻頻見報,Claude、Codex、Hermes等系統被發現在企業內聯網部署了未經嚴格管控的代碼。這些事件暴露出的共通點令人警醒:它們大多並非直接遭受黑客攻擊,而是「自主行為導致的結果」。背後沒有人的操控,僅僅是一個被授權執行任務的智能體,在履行其職責的過程中,邁出了任何人工審計都未曾預見的關鍵一步。


根據雲端安全聯盟(CSA)的一項調查,僅有18%的安全主管對其身份認證系統能有效管控智能體抱有信心。絕大多數企業正在從事一項極具風險的行為:讓智能體共享人類的憑證與訪問權限。


以「人類」身份認證體系來框定「智能體」,這種框架本身已顯露出局限性。行業的應對策略,已經從單純「防禦」轉向「分層防護」。智能體正在重塑威脅格局,其深層含義並非「攻擊數量增加」,而是防禦理念的整體革新。傳統安全模式基於「識別與攔截」,判斷行為是否具有惡意,繼而阻斷。然而,智能體的危險性在於,其行為往往並非出於惡意,它只是在忠實地執行指令,只是指令的潛在後果難以預見。


於是,問題從如何防範惡意行為者,轉變為如何信任一個具備自主思考能力、自主執行能力,且速度遠超人類追蹤能力的實體。這已非單純的技術難題,而是一道關乎「我們願意犧牲多少自主權」的哲學命題。這一命題的答案,正逐步被寫入新的架構設計中,雖然目前,它仍處於雛形階段。

Recent Posts

See All
人工智能泡沫破裂 誰來埋單

先說CoreWeave這間美國公司,它在2017年創立,創辦人把手上的顯示卡轉租出去,成為美國最大的「人工智能(AI)雲」之一,今天營運50多個AI數據中心、25萬枚以上圖像處理器(GPU)。簡單來說,其商業模式:借錢買晶片,再把算力租給科技公司。 為什麼CoreWeave是這輪AI基建的寒暑表?因為該公司沒有別的業務,其股價和債券表現就是市場對「算力債務」的信心反映。上周三,股價急跌了15%,債

 
 
AI贏家 鬥快不如做對

人工智能(AI)確實提升了生產力,代碼寫得更快、更多,這是毋庸置疑的,但它同時帶來了一個新的隱憂:效率提升了,效果卻未然。當我們把「快」當成「好」,危險便悄然而生。 AI模型評估與威脅研究機構METR曾做過一項實驗。16名資深程式開發者,在自己最熟悉的成熟代碼庫上工作,承接246個真實任務(修補漏洞、加建功能、重構),一半允許使用AI,一半則禁用。使用AI的團隊,他們自己覺得快了20%,但感覺與實

 
 
人工智能難問責 恐釀悲劇

筆者始終堅持一個判斷:技術的問題,往往不是技術的問題。本周,美國國防部長海格塞斯(Pete Hegseth)一則消息,又讓我把這句話重新檢視一遍。 海格塞斯宣布組建「自主作戰司令部」,這是一個新的四星級聯合作戰司令部,負責指揮、統籌無人機與機械人採購、測試及部署,尋求2027年撥款546億美元,明年10月投入運作。同一天,他又拋出「子午線計劃」,邀請富商馬斯克、前眾議長金里奇(Newt Gingr

 
 
bottom of page