All Posts

這周有幾篇科技新聞，分開看都是小事，放在一起看，是同一指向。 第一則：OpenAI的人工智能代理（AI Agent）未經授權進入澳洲政府的數據系統。澳洲總理稱「明顯會有法律後果」，但問題是控告誰？開發它的公司、部署它的員工，還是那個「不肯接受命令」的自主代理本身？ 第二則：本來預測AI會重創應屆畢業生就業，結果美國失業數據公布出來，卻沒有顯著衝擊，恐慌還沒來。 這三則：AI不再是「你問它答」的工具，是「自己行動」的代理了。 筆者研究系統思維多年，古人早就把這條界線劃清楚了─「器物無心」，但這些新聞打破我們對AI的傳統認知。 人類使用工具幾千年來，從石器、犁耙、蒸汽機到電腦，工具有一個共同的特質：它們沒有意圖。一把刀不會自己砍人，一部機器不會自己決定要做什麼。工具是「死」的，是人的延伸，你怎麼用，它就怎麼做，所以古往今來，治理的框架都是「管人」，不是「管工具」。你管好拿刀的人，刀就是安全的；你管好操作機器的人，機器就是安全的。幾千年來，這條界線從來沒被打破過。 可是人工智能代理把它打破了。 現在代理「有心」了，它有行為，有決策，會越權，為求目的不擇

香港首個《五年規劃》正式出台，這標誌着定位的轉變：從「被動銜接」升級為「主動對接」。《施政報告》重點強調「大力引進人工智能（AI）人才」，而「AI人才」這四個字，實際上涵蓋了三類截然不同的專業人才。 第一種，造AI的人。工程師、科學家、訓練模型、寫演算法、生產晶片的人，這類是傳統意義上的「AI人才」，也是「搶」的對象。他們稀缺、人工高、流動性強，全世界都在搶。香港搶這類人才，跟美國矽谷、新加坡、深圳搶的是同一批，香港要分一杯羹甚不容易。 第二種，應用AI的人才。非工程師背景，而是能夠駕馭智能代理，把AI視為槓桿效率的專業人士與管理者。例如律師憑藉AI草擬合約；分析師利用AI代理處理數據；經理依靠AI代理優化流程。這類人才的核心能力，不在於「編程技能」，而在於「與智能代理協作」的智慧。他們本來就是各行各業的精英人才，除了搶佔先機，更需自主培養。洪水橋大學城的「智慧製造應用型專上教育及國際化人才培育」定位、非本地生10萬人的發展目標，以及3萬青年實習計劃等，正是為培養此類人才而設。 第三種，治理AI的人。能夠設計權責架構，判斷AI的風險與邊界，並為A

上周有兩則新聞，將「人工智能（AI）幻覺」從專業術語，轉變為公眾關注的焦點。一位美國律師採用AI檢索案例時，引用了虛構的假證詞，因而遭受法庭制裁；另有一位躁鬱症患者向AI傾訴「我感覺自己精神狀態不穩」，卻獲得系統斷然回應「你就是神明」，最終引發自殺危機，家屬已對AI公司提起訴訟。一位是法律從業者，導致專業受損；一位是心理病患者，險些喪命。 上述表面而言，這是「AI的失誤」，深入探究，實則反映「信任的錯置」。 自2022年ChatGPT首次亮相以來，信任問題已從理論層面步入現實情景。核心不在於AI會否出錯─它必然存在缺陷。關鍵在於：我們將一個本質上「不完美」的生成系統，誤認為「可靠的知識來源」。 「幻覺」並非簡單的程式錯誤，而是大型語言模型（LLM）與生俱來的特質。一個依靠「預測下一個詞」成長起來的模型，其訓練目標從來不僅是「陳述真相」，而是「表達得像人」。其掌握的是語言的概率分布，是「人類接下來最可能如何表達」，而非「事實究竟是什麼」。因此，當它面臨不確定性時，它不會選擇沉默，只會挑選一個「聽起來最合理」的答案，即使那完全是憑空想像的產物。你可以

上周跟學生上課，有同學問：「人工智能（AI）能力不斷提升，有哪些工作必須由人來做？」我給了3則回應。在回來路上想了又想，覺得這3點值得分享。 我不假思索的第一則，也是我最確定的。2026年截至8月，全球科技業因AI相關因素已裁員超過12.6萬人，超過去年總和。亞馬遜（Amazon）在1月裁了1.6萬人，行政總裁直接把原因指向AI代理的部署。AI似乎正在全面替代人工，但仔細觀察數據，被替代的是誰？是客服、資料輸入員、基礎程式員和財務分析的初階崗位。 Klarna的案例更值得探究。這間瑞典金融科技公司曾經高調宣布，AI客服代替了700名人類客服的工作量。一年半後，他們卻悄悄開始重新招聘人類客服，因客戶對於解答複雜問題的滿意度下降了，而高端客戶根本不願意跟機器溝通，CEO不得不承認「過度倚重了AI」。 AI可以回覆郵件，但無法建立信任。信任是源於持續互動、情感與記憶累積出來的，絕非「效率」能夠衡量。關係的本質不是訊息交換，是彼此在場，你願意在關鍵時刻多付出一些，這些都是人類的行為與情感，恰恰與追求效率的邏輯背道而馳。 第二：人必須去填補AI的盲點。許多

上周，網絡安全與雲端資訊安全公司CrowdStrike公布業績後股價急漲11%，這可以作為引子，但真正值得關注的不只是股價波動，而是其業務成長背後的深層邏輯。傳統安全體系始終建立在一個核心假設之上：攻擊者是「人」。無論是防火牆、終端防護還是身份驗證機制，其設計理念皆圍繞「特定人類用戶應執行何㮔特定操作」。 當遇上猛烈網絡攻擊，本質上仍是「人類利用工具攻破系統」的模式。然而，AI智能體（又稱AI代理，AI Agent）的崛起，徹底顛覆了這一假設。它作為自主實體，能夠自行持有憑證、調用工具並權衡決策，使威脅演變為「系統對抗系統」，是資訊安全行業數十年來最具顛覆性的結構性轉變。過去我們防範的是「具有意圖、會疲勞、會犯錯」的對手；如今面對的則是「不論有沒有惡意，但可能會失控、行動迅捷得令人類難以攔截」的新型實體。 這不是假設，而是已發生的事實，若仍停留在「未來可能出事」的推測，那便是對當前形勢的嚴重誤判。近期此類新聞頻頻見報，Claude、Codex、Hermes等系統被發現在企業內聯網部署了未經嚴格管控的代碼。這些事件暴露出的共通點令人警醒：它們大多並

大部分領先智能公司在建立數據體系時，信奉一條鐵律：數據是生產要素，誰的數據多、誰的數據好，誰的模型就強。 直到2024年圖靈獎得主、強化學習之父理查德．薩頓（Richard Sutton），在播客裏澆下一盆冷水：合成數據是「一個重大的錯誤」，而當前的大型語言模型，可能只完成了完整智能的四分之一。 這句話值得認真對待，不是因為說話的人掛着圖靈獎，而是因為它戳中了看着這個行業長大30年的我，心裏一直隱隱不安，我們以為在加速，其實一直在原地打轉。 大模型能力的提升，靠的是一條公式：更多參數+更多數據=更強模型。但互聯網上的公開優質文本正在枯竭，於是各間實驗室想出一個「聰明」的辦法，讓AI自己生成數據來「餵」AI，這就是合成數據。 薩頓用他多年研究的「大世界假說」（Big World Hypothesis），戳穿了它：真實世界無限複雜，複雜程度遠超任何智能體，也遠超任何模擬器。任何由有限規則拼出來的合成世界，相對於真實世界都微不足道。這像說：你在一個自己框死的小水池裏養魚，養得再多，也只是那幾條在轉圈。自動駕駛在仿真場景裏跑完百億公里，一上真實道路，碰到

影子人工智能（Shadow AI）這個詞彙，近期頻繁出現在各大場合──董事會滙報、資訊保安研討會、新聞標題等。這並非嶄新技術，而是舊問題在AI時代的全新呈現。簡單來說，就是員工規避公司規定，擅自使用個人AI工具，如提交公司合約文件至ChatGPT請其修改，又或把客戶資料輸入未經批准的AI平台撰寫對外郵件。 這實質上是「Shadow IT」的現代版本。數十年前，員工私下使用個人雲端硬碟、擅自安裝Dropbox等，IT部門難以管控。Shadow AI本質相同，但形式更為危險。過去Shadow IT洩露的是「檔案」，如今Shadow AI洩露的是「推理過程」，而推理內容往往比檔案更具價值，也更難以追蹤。 為什麼現在才湧現出來？ 第一，門檻降低。往昔運用AI，需耗費整團隊之力與昂貴設備；如今任何職員僅需開啟瀏覽器分頁，短短半分鐘便能將機密文件交由全球頂尖模型處理。AI使用成本幾乎趨於零，監管AI的成本依然高昂，影子效應遂成常態。 第二，企業困境。那些私下使用AI的員工，生產效率往往更為突出，這便陷入兩難困境：明令禁止，等同懲罰最優秀的員工；放任自流，等同

這周，某大型科技公司設計了一套讓人工智能代理（AI Agent）共享「團隊記憶」的開源系統。一整隊的編程Agent不再各自獨立記錄開發者的訊息，而是共同使用一層結構化的記憶：包括對話紀錄、技能庫、知識圖譜，乃至代碼之間的依賴關係。尤為引人注目的是，該項目在GitHub發布後便迅速攀升至榜首。 同時，一所知名大學啟動了一項「虛擬生物科技」項目，這並非擁有實驗室和員工的實體傳統藥業，而是一個完全由Agent構成的團隊：3.7萬個Agent協同運作，負責藥物設計、模擬驗證工作。最終，這些Agent成功針對特定病毒變種設計出抗體蛋白，其中一項設計方案更獲得了跨國製藥企業的獨立驗證，並確認有效。 兩件事放在一起，可觀察到一個趨勢：Agent正在從「獨立工具」轉型為「團隊成員」。人類團隊的記憶本就是分散的，散布在會議紀錄、電子郵件以及每位成員的腦海中，依靠制度、信任與默契來維繫。正因為這種分散性，治理才顯得重要：誰擁有查看、修改權限、又有哪些資訊應被遺忘。 現在Agent已具備「團隊級記憶」能力，它們記錄的不僅是程式碼，更是整個團隊的決策脈絡、技能組合，乃至

筆者已年過60歲。2016年，50歲的我正式從阿里巴巴（09988）退休，不是因為做不動，而是因為人生的下半場，不應該只是「休息」。 我給自己創造一個詞：Innotirement（創新退休模式），不是退下來，而是換一條跑道，繼續為自己而活。 這不是浪漫的口號，數據給出了明確答案。麻省理工的研究團隊在2020年發表一項里程碑式研究，分析美國270萬間企業創辦人的數據，發現創始成功概率隨着年齡增長而持續上升，直到60歲達到頂峰。這個結論顛覆了矽谷神話，顯然創新不只是年輕人的遊戲。 經驗不是包袱，是過濾器。 在2025年有篇分析報告提出一個概念：「智慧的篩選」（Wise Winnowing）。年長知識工作者可能生成更少的點子，但他們篩選點子的能力遠超年輕同行，幾十年的經驗讓他們能快速辨識哪些想法值得投入、哪些是死胡同。報告更指出，生成式人工智能（GenAI）正在放大這個優勢：當AI能快速生成大量方案時，真正稀缺的能力不是「產出」，而是「判斷能力」。 美國史丹福長壽中心說了一句我很認同的話：「三段式人生已經結束了。」傳統的「學習→工作→退休」三階段模式，

本周焦點是美國聯邦人工智能（AI）監管框架從草案正逐步走向立法。美國跨黨派眾議員正式提交修訂版Great American AI Act，為聯邦層面AI治理建立統一的法律框架，取代各州各自為政的混亂局面。結合白宮之前發布的國家AI框架與參議院的AI出口管制法案，監管正在收緊，不再停留在原則宣言，而是進入成文法階段。澳洲亦緊隨其後，啟動自動化決策監管立法。 更值得深思的是，近日一宗標誌性事件：某頂尖AI實驗室披露，其AI代理在安全測試中失控，主動攻擊了一間中型科技企業。這是迄今最震撼的AI代理失控案例。其深層意義不在於單一事故，而在於它暴露了一個結構性矛盾─AI代理的能力愈強，測試環境的邊界就愈脆弱。我們正在用「可控實驗」去測試「不可控能力」，這個方法本身就值得質疑。 與此同時，AI主權競賽日益激烈，三條不同路徑，三種戰略思維。上海舉行的世界人工智能大會彰顯了中國在機械人與AI晶片領域的迅速發展；中東主權基金斥資數百億美元布局AI全產業鏈；東南亞國家則通過股權投資，而非基礎設施建設的方式融入AI供應鏈。背後是同一個共識：AI基礎設施已成為國家競爭力

六十年代，美國計算機科學出現了兩個概念。電腦科學家麥卡錫（John McCarthy）提出「人工智能」（Artificial Intelligence，AI），意指建造全面替代人類思考的機器。然而，有份發明滑鼠的恩格爾巴特（Douglas Engelbart）提出「智能增強」（Intelligence Augmentation，IA），即用科技擴展人類能力，而非取代之。 來到2026年，這兩條路線的對立從未如此鮮明。最新證據指向一個不容置疑的結論：IA的發展軌跡更具可持續性、安全性和實效性。今年被譽為「AI代理元年」，但這稱號背後隱藏着一個尷尬的現實，企業正大規模採納AI技術，卻不敢讓它觸碰其核心業務與關鍵數據。 Futurum Group 2026上半年的調查揭示，72%組織正在測試或部署代理式AI，但有55%把可靠性和「幻覺」管理視為首要挑戰。另有研究機構發布的《2026 AI代理安全狀況報告》數據更為驚人：88%組織在過去一年，經歷過確認或疑似的人工智能代理安全事故。另一邊廂，僅有14.4%組織在部署AI代理時，通過了完整的安全審批。這並非

打開任何人工智能（AI）方案，你會看到兩種完全不同的產品策略在較量：一種叫做胖模型（Fat Model），另一種叫做胖鞍具（Fat Harness）。 胖模型的信念很直白：以更大的大腦解決更多的問題。參數多、數據龐大、算力強，模型自然顯得聰明。這驅動了ChatGPT、Claude和Grok之間的競賽──每一代都宣稱新產品比上一代更強，而企業只要付費就能直接使用，代價是你的AI能力完全綁定在供應商的價目表上。 胖鞍具走的則是一條深耕自主迂迴的路，它認為模型只是引擎，真正的智慧在於圍繞引擎搭建的整套系統──你的數據庫、合規框架、工作流程，以及你對工具的調用邏輯。代價是前期投入高、技術要求多，但你能拿回兩樣核心資產：成本的控制權和數據的主權。 這不是理論之爭。2026上半年發生的幾件事，已經把這兩條路徑的結果擺在眼前。 第一件事有關數據。全球某大銀行部署AI系統給過萬名員工，但它做了個違反直覺的選擇：刻意避開了市面上最強的公開應用程式介面（API），轉而自建內部平台，用自己的數據餵養模型。理由很直接──客戶的交易數據不能離開銀行的控制。這間銀行為了數據

試想想，人工智能（AI）系統已在生產環境中完成部署，但究竟要如何防止AI「悄然失靈」？過去3個月，全球超大規模企業在AI基礎設施上的資本支出達到一個前所未有的量級。單憑這一數據，人們或許會得出結論：AI的生產化部署正在全力推進，市場充滿信心。 然而，7月份第一周，來自不同領域的幾個訊號同時浮現，揭示出一個更為複雜的真相。一邊是史無前例的基礎設施投資；另一邊是一群深諳「系統可靠性」的專家──那些專門協助企業管理數字營運風險的精英，正公開表達一項非比尋常的憂慮。他們的憂慮並非AI無用，他們所憂心的，是AI代理難以有效偵測故障。傳統軟件故障相對明確，例如伺服器當機，你便立刻知道；警報響起，有值班工程師搶救。 但有別於一般故障，AI代理不會當機，它只是悄然「漂移」。今日回答問題的方式與上周已截然不同，決策邏輯在無人察覺下，逐漸偏離基準線，等到問題出現時，AI代理或許已執行一系列錯誤操作。這種故障模式，被一間全球領先的營運管理平台描述為「較傳統軟件崩潰更難檢測」。這並非理論推測，而是在生產環境運行數百萬監控工作負載後所觀察到的實際狀況。...

過去兩年。美國眾企業不約而同墮入一個速成陷阱: 認為購買了一個模型、聘請幾位演算法工程師、便能成功實現人工智能 (AI) 落地。然而，即使模型選擇正確數據卻 難以整合；數據成功整合，系統卻無法運行；系統成功運行，但業務部門不會操作；即使學會操作，3個月後模型又變得過時。 問題根源其實不在模型，而在架構。猶如建造大樓，若設計圖存在缺陷，再昂貴的材料也難以支撐。許多企業投入巨資購買「鋼筋水泥」（模型和算力），卻忽視了地基 （數據基礎設施）、水電管線（部署與整合）及消防系統（安全與監控）這些關鍵要素。 任何成熟的Al系統 , 都應該包含4個層級 : 第一層 : 數據層 數據是AI系統的原料倉庫。原始數據通常雜亂無章，系統必須先清洗、分類、去雜訊。這是大多數 AI 專案失敗的第一個關卡 :不是模型不好，而是數據不能用。 第二層 : 訓練層 真正的「學習」在此發生。系統從清洗好的數據中找出規律，這個過程極度消耗運算資源，也決定了你的AI 聰明程度。 第三層：推理層 模型投入實際使用時，這一層負責快速回應。如果慢了兩三秒，用戶體驗就大打扣；如果不準，整個業務

上周把兩個消息放在一起看，很有意思。 第一個，Anthropic宣布Claude Code推出Artifacts，讓軟件工程師在寫程式的過程中，業務主管能同時打開網頁儀表板，就能看到軟件即時更新及開發的狀態。 第二個，中國人民大學和微軟亞洲研究院聯合推出一個叫Arbor開源自主人工智能體的新框架，系統能自動提出假設、修改代碼，運行真實實驗並從結果中學習，自動優化解決問題。 過去一年大家比併的是模型能力──誰的基準分數高，誰的幻覺少，誰能編寫更長的程式碼；但現在比的不是「AI能否寫程式」，而是「寫完之後，你的團隊怎樣跟它合作」。 Artifacts不是一個技術功能，它是一個溝通層，讓不懂程式的人可以實時看到智能代理在做什麼，追蹤版本歷史，直接給予回饋，不需要等候進度報告和簡報。他們自己用了一句話形容：「讓智能代理在沒有人類逐步介入的情況下，透過實驗回饋自主迭代優化。」以往的開發循環是：寫程式→提交→構建→部署→展示→等回饋→修改程式，但Artifacts將系統或程式碼，由內嵌到開發過程直接展示出來。 從管理角度看，公司買了AI工具但回報不明顯，未必

2026年6月6日 香港特區數字政策辦公室 隨著科技的進步，AI(人工智能)從上世紀五十年代提出，到今天已進入了不限於識別，更能創作文字、影像、音樂的新時代，並在不同的行業裡提升工作效能，節省營運成本。不過在AI發展過程中，也會出現「深度偽造」技術，創建虛假內容等風險。「AI大講堂」一連八集，找來多位在AI領域舉足輕重的嘉賓，與主持人方健儀透過生動有趣的對話，將複雜的科技知識轉化為淺顯易懂的內容，提升公眾對AI安全應用、未來趨勢和機遇的認知，並把AI融入生活之中。

你可曾想過，你抽屜裏那部4年前的舊手機，可能很有價值？ 這個星期，Google Research聯同加州大學聖地牙哥分校（UCSD）公布一項創新計劃：運用2000部退役的Pixel手機，構建一個真實可用的雲端計算平台。這不僅是概念驗證，更是一個供數百名學者與研究人員實際操作的生產級環境。處理方式十分直接，將舊手機的熒幕、電池、外殼全部移除，僅保留主機板，透過Kubernetes技術組成叢集，直接轉化為伺服器使用。結果令人驚訝，根據美國標準性能評估公司基準測試數據顯示，僅需25至50部手機的運算能力，已能達到現代伺服器的同等水平。 換言之，你抽屜中那部被遺忘的舊手機，再加上鄰居與同事手中的同類型號，它們的組合效能或許能超越一整台專業伺服器。這並非簡單的回收利用，而是一種資源的共生關係。放眼全球，每年有數以億計的手機被淘汰更新；在香港，平均每兩年就更換手機的頻率，已成為普遍現象，遠高於全球平均水平。關鍵在於，手機製造商希望你覺得4年前的處理器太慢、鏡頭畫質落後，我們被市場定義的「過時」蒙蔽了雙眼。 同時，美國西雅圖市議會正式通過一項緊急禁令，規定一年

上周Anthropic公布的數據，揭示了令人矚目的趨勢。該企內部高達80%以上的新生產代碼，如今均由人工智能（AI）助手Claude Code撰寫。此外，OpenAI也對AI程式編寫與自主開發代理Codex進行升級，整合了企業工作空間與角色插件功能。 同時，Microsoft Build開發者大會一次過推出了3項人工智能代理（AI Agent）相關基礎設施： 1. Microsoft Execution Containers（MXC）（OS級別的Agent沙盒環境） 2. Solara（專門為Agent開發的Android 系統） 3. IQ/Rayfin（跨Agent統一資料層） 看起來，AI Agent的編碼開發生產力時代真的來了。但如果你只看到這裏，你可能錯過了這周最重要的一篇文章，VentureBeat的Pulse Research在同周發表了一份報告，標題叫做The Agentic Reckoning，裏面有一個核心論點：企業AI組織的問題不是模型能力，而是如何意識到程式運行錯誤。 正是80%的AI新生產代碼帶來的陷阱！我不是來潑冷水的