top of page

合成數據 原地內捲

大部分領先智能公司在建立數據體系時,信奉一條鐵律:數據是生產要素,誰的數據多、誰的數據好,誰的模型就強。


直到2024年圖靈獎得主、強化學習之父理查德.薩頓(Richard Sutton),在播客裏澆下一盆冷水:合成數據是「一個重大的錯誤」,而當前的大型語言模型,可能只完成了完整智能的四分之一。


這句話值得認真對待,不是因為說話的人掛着圖靈獎,而是因為它戳中了看着這個行業長大30年的我,心裏一直隱隱不安,我們以為在加速,其實一直在原地打轉。


大模型能力的提升,靠的是一條公式:更多參數+更多數據=更強模型。但互聯網上的公開優質文本正在枯竭,於是各間實驗室想出一個「聰明」的辦法,讓AI自己生成數據來「餵」AI,這就是合成數據。


薩頓用他多年研究的「大世界假說」(Big World Hypothesis),戳穿了它:真實世界無限複雜,複雜程度遠超任何智能體,也遠超任何模擬器。任何由有限規則拼出來的合成世界,相對於真實世界都微不足道。這像說:你在一個自己框死的小水池裏養魚,養得再多,也只是那幾條在轉圈。自動駕駛在仿真場景裏跑完百億公里,一上真實道路,碰到雨雪、突發路況照樣失靈。更關鍵的是,依賴合成數據的AI,本質上是在自己教自己。這正是我反覆提及的「養用循環」的反面──養是積累,用是實踐,沒有「用」的閉環,養就是一個自閉系統,數據量在暴漲,實則原地「內捲」。


大模型缺的不是知識,是「用」的那四分之三,正如薩頓說大模型只覆蓋了智能的20%或25%,這是個有衝擊力的判斷,卻指向真的問題。完整的智能至少有四塊:


1)語言理解:大模型最擅長,這一塊它做得確實好。


2)感知:多模態能「識別」物體,卻難「理解」物理環境背後的因果。


3)行動與規劃:它能輸出方案,卻沒有實際去試錯、驗證因果。


4)持續學習:最核心、也最缺的一塊。


這解釋了大模型談理論頭頭是道,一落地真實場景就翻車,因為真實場景要的不是調取知識,而是感知、行動、試錯、學習。


薩頓不是否定大模型,他的方向是回歸真實世界,持續自主學習。不再「訓練一次、終身使用」,而是用一次、精進一次。這正是我在《決戰大數據》書中說的養用循環──用是養的驗證,養是用反饋回來修正方向。


以後怎麼判斷AI是否進步,先問以下幾個問題:數據來自真實世界還是合成世界?上線後還能不能持續學習?有沒有感知與行動的閉環?是在算力內捲,還是人機協作?這個比任何排名榜,都更能說明一個系統的真實潛力。

Recent Posts

See All
「影子AI」令企業管治陷兩難

影子人工智能(Shadow AI)這個詞彙,近期頻繁出現在各大場合──董事會滙報、資訊保安研討會、新聞標題等。這並非嶄新技術,而是舊問題在AI時代的全新呈現。簡單來說,就是員工規避公司規定,擅自使用個人AI工具,如提交公司合約文件至ChatGPT請其修改,又或把客戶資料輸入未經批准的AI平台撰寫對外郵件。 這實質上是「Shadow IT」的現代版本。數十年前,員工私下使用個人雲端硬碟、擅自安裝Dr

 
 
管治AI代理「團隊記憶」

這周,某大型科技公司設計了一套讓人工智能代理(AI Agent)共享「團隊記憶」的開源系統。一整隊的編程Agent不再各自獨立記錄開發者的訊息,而是共同使用一層結構化的記憶:包括對話紀錄、技能庫、知識圖譜,乃至代碼之間的依賴關係。尤為引人注目的是,該項目在GitHub發布後便迅速攀升至榜首。 同時,一所知名大學啟動了一項「虛擬生物科技」項目,這並非擁有實驗室和員工的實體傳統藥業,而是一個完全由Ag

 
 
AI釋放年長優勢 60歲「創新退休」

筆者已年過60歲。2016年,50歲的我正式從阿里巴巴(09988)退休,不是因為做不動,而是因為人生的下半場,不應該只是「休息」。 我給自己創造一個詞:Innotirement(創新退休模式),不是退下來,而是換一條跑道,繼續為自己而活。 這不是浪漫的口號,數據給出了明確答案。麻省理工的研究團隊在2020年發表一項里程碑式研究,分析美國270萬間企業創辦人的數據,發現創始成功概率隨着年齡增長而持

 
 
bottom of page