top of page

提防AI助手變安全漏洞

根據市場研調機構Gartner今年1月30日發布的最新預測,2026年全球人工智能(AI)總支出將達到2.52萬億美元,全年增長44%。這數據充分反映了全球AI需求還在爆發式增長。 在AI代理Manus的賣盤交易還未有定案之際,最近OpenClaw(前稱Clawdbot及Moltbot)爆紅。OpenClaw是一款可部署於個人電腦的開源AI助手,旨在成為用戶的「超級助理」。其核心功能在於其自動化能力,可以自主整理收件箱、預訂服務、管理日程等,而毋須等待用戶指令。 該產品在技術上作為一個AI代理的「編排層」,用戶可在本地硬件託管一個「控制台」,並將其連接至Claude或ChatGPT等外部模型,確保所有數據與日誌留存於本機,保障私隱安全。自OpenClaw公開後,迅速吸引了多間主流雲服務商、即時通訊應用程式的關注。據聞大型科技企業如騰訊(00700)、百度(09888)等,已全力在解構該開源軟件。 以下是OpenClaw主要特點: 主動執行任務:毋須用戶手動觸發,即可自動處理電郵、安排會議、管理文件、運行腳本乃至編寫代碼,擴展自身功能。 本地化部署加強數據私隱:支持在個人電腦或雲端伺服器上自行託管,所有對話歷史、設置與操作紀錄均以本地文件形式保存,不經第三方雲端,確保數據完全由用戶控制。 深度集成通訊軟件:可將AI入口嵌入WhatsApp、Telegram、Slack等即時通訊工具,用戶直接通過聊天窗口發送指令,AI便可在連接的設備上執行任務。 備長期記憶與個性化適應:能夠持續學習用戶偏好與歷史的上下文,並以此優化任務執行,所有記憶與設置均保存在本地載體,實現高度個性化的交互體驗。OpenClaw啟動後,會發送初始訊息,說明「自己剛上線,無記憶,用戶可自訂名稱、性格」,用戶更可自我介紹,幫助OpenClaw更好了解其需求。 看到這裏,筆者既開心又擔心,但業界普遍擔心其安全問題,例如AI可能無法辨識攻擊者或詐騙陷阱,會洩露敏感訊息,甚至招致金錢損失。所以,如果大家想嘗試,務必要小心,否則最強的AI助手,可能會變成最大安全風險漏洞。

Recent Posts

See All
慎防智能代理「無聲」脫軌

試想想,人工智能(AI)系統已在生產環境中完成部署,但究竟要如何防止AI「悄然失靈」?過去3個月,全球超大規模企業在AI基礎設施上的資本支出達到一個前所未有的量級。單憑這一數據,人們或許會得出結論:AI的生產化部署正在全力推進,市場充滿信心。 然而,7月份第一周,來自不同領域的幾個訊號同時浮現,揭示出一個更為複雜的真相。一邊是史無前例的基礎設施投資;另一邊是一群深諳「系統可靠性」的專家──那些專門

 
 
AI預算黑洞 根源在架構設計

過去兩年。美國眾企業不約而同墮入一個速成陷阱: 認為購買了一個模型、聘請幾位演算法工程師、便能成功實現人工智能 (AI) 落地。然而,即使模型選擇正確數據卻 難以整合;數據成功整合,系統卻無法運行;系統成功運行,但業務部門不會操作;即使學會操作,3個月後模型又變得過時。 問題根源其實不在模型,而在架構。猶如建造大樓,若設計圖存在缺陷,再昂貴的材料也難以支撐。許多企業投入巨資購買「鋼筋水泥」(模型和

 
 
智能代理編程戰 懂人機協作致勝

上周把兩個消息放在一起看,很有意思。 第一個,Anthropic宣布Claude Code推出Artifacts,讓軟件工程師在寫程式的過程中,業務主管能同時打開網頁儀表板,就能看到軟件即時更新及開發的狀態。 第二個,中國人民大學和微軟亞洲研究院聯合推出一個叫Arbor開源自主人工智能體的新框架,系統能自動提出假設、修改代碼,運行真實實驗並從結果中學習,自動優化解決問題。 過去一年大家比併的是模型

 
 
bottom of page