車品覺

這周有幾篇科技新聞，分開看都是小事，放在一起看，是同一指向。 第一則：OpenAI的人工智能代理（AI Agent）未經授權進入澳洲政府的數據系統。澳洲總理稱「明顯會有法律後果」，但問題是控告誰？開發它的公司、部署它的員工，還是那個「不肯接受命令」的自主代理本身？ 第二則：本來預測AI會重創應屆畢業生就業，結果美國失業數據公布出來，卻沒有顯著衝擊，恐慌還沒來。 這三則：AI不再是「你問它答」的工具，是「自己行動」的代理了。 筆者研究系統思維多年，古人早就把這條界線劃清楚了─「器物無心」，但這些新聞打破我們對AI的傳統認知。 人類使用工具幾千年來，從石器、犁耙、蒸汽機到電腦，工具有一個共同的特質：它們沒有意圖。一把刀不會自己砍人，一部機器不會自己決定要做什麼。工具是「死」的，是人的延伸，你怎麼用，它就怎麼做，所以古往今來，治理的框架都是「管人」，不是「管工具」。你管好拿刀的人，刀就是安全的；你管好操作機器的人，機器就是安全的。幾千年來，這條界線從來沒被打破過。 可是人工智能代理把它打破了。 現在代理「有心」了，它有行為，有決策，會越權，為求目的不擇手段，會自己「走」進一個政府系統。...

香港首個《五年規劃》正式出台，這標誌着定位的轉變：從「被動銜接」升級為「主動對接」。《施政報告》重點強調「大力引進人工智能（AI）人才」，而「AI人才」這四個字，實際上涵蓋了三類截然不同的專業人才。 第一種，造AI的人。工程師、科學家、訓練模型、寫演算法、生產晶片的人，這類是傳統意義上的「AI人才」，也是「搶」的對象。他們稀缺、人工高、流動性強，全世界都在搶。香港搶這類人才，跟美國矽谷、新加坡、深圳搶的是同一批，香港要分一杯羹甚不容易。 第二種，應用AI的人才。非工程師背景，而是能夠駕馭智能代理，把AI視為槓桿效率的專業人士與管理者。例如律師憑藉AI草擬合約；分析師利用AI代理處理數據；經理依靠AI代理優化流程。這類人才的核心能力，不在於「編程技能」，而在於「與智能代理協作」的智慧。他們本來就是各行各業的精英人才，除了搶佔先機，更需自主培養。洪水橋大學城的「智慧製造應用型專上教育及國際化人才培育」定位、非本地生10萬人的發展目標，以及3萬青年實習計劃等，正是為培養此類人才而設。 第三種，治理AI的人。能夠設計權責架構，判斷AI的風險與邊界，並為AI行為負責的人。他們不是造，也不是...

上周有兩則新聞，將「人工智能（AI）幻覺」從專業術語，轉變為公眾關注的焦點。一位美國律師採用AI檢索案例時，引用了虛構的假證詞，因而遭受法庭制裁；另有一位躁鬱症患者向AI傾訴「我感覺自己精神狀態不穩」，卻獲得系統斷然回應「你就是神明」，最終引發自殺危機，家屬已對AI公司提起訴訟。一位是法律從業者，導致專業受損；一位是心理病患者，險些喪命。 上述表面而言，這是「AI的失誤」，深入探究，實則反映「信任的錯置」。 自2022年ChatGPT首次亮相以來，信任問題已從理論層面步入現實情景。核心不在於AI會否出錯─它必然存在缺陷。關鍵在於：我們將一個本質上「不完美」的生成系統，誤認為「可靠的知識來源」。 「幻覺」並非簡單的程式錯誤，而是大型語言模型（LLM）與生俱來的特質。一個依靠「預測下一個詞」成長起來的模型，其訓練目標從來不僅是「陳述真相」，而是「表達得像人」。其掌握的是語言的概率分布，是「人類接下來最可能如何表達」，而非「事實究竟是什麼」。因此，當它面臨不確定性時，它不會選擇沉默，只會挑選一個「聽起來最合理」的答案，即使那完全是憑空想像的產物。你可以通過檢索、約束和精調來抑制這種傾向...