top of page

2025年5月21日

RAG與MCP互補更強大 如果你已經是ChatGPT(或同類工具)的常客,那麼你對生成式語言模型的三大缺陷應該不會陌生,有否覺得以下問題似曾相識: 1. 大語言模型依賴公共數據訓練,但企業需要的是整合動態變化的專有訊息(如內部文檔、實時數據),傳統模型無法直接調用這些數據,導致生成結果與業務需求脫節。 2. 即使模型定期更新,其訓練數據的「截止日期」與實際應用時間始終存在差異。例如金融或醫療領域的最新政策、研究可能未被覆蓋,影響輸出準確性。 3. 幻覺與歸因缺失:模型不時生成看似合理、但與事實背道的「幻覺」內容,且缺乏引用資訊來源,用戶難以驗證真偽。這在專業場景(如法律諮詢)風險極高。 檢索增強生成(RAG)技術在解決以上問題時,優勝之處在於它像給大模型裝了個「外接大腦」,從外部大量資料提取最新和最相關的訊息,為大模型作補充。然而,最近有一說法認為「模型上下文協議」(MCP)技術可以把RAG取而代之。 那MCP又是什麼?MCP是一種通過長時記憶,經過較長時間用戶累積的上下文處理,以提升生成模型性能的方案,其核心在於強化模型對動態知識的持續學習和應用能力。該方法依賴一個專門設計的「記憶模塊」儲存長期數據,例如業務規則、用戶習慣或歷史交互紀錄。這些數據可以更新動態,確保模型對變化的訊息保持敏感度。 在交互過程中,MCP模型可以通過用戶的反饋,不斷優化其「記憶模塊」的知識,提升後續生成內容的準確度和相關性。主要優勢在於它能針對個性化需求,理解用戶的具體需要,特別適合應用於客戶服務或個性化推薦等場景。此外,由於「記憶模塊」能夠實時更新,MCP在處理長期用戶交互時表現尤為出色。 可是MCP也有一定局限性。首先,如果「記憶模塊」的數據不夠全面或存在偏差,可能導致生成內容失真。其次,MCP的優勢主要體現在需要長期交互和持續知識累積的場景中,對於那些需要快速檢索最新訊息的場景,它的適用性相對低。 筆者比較相信RAG與MCP兩種方向並不是對立,也可結合使用通過儲存長時記憶的能力,再配合快速檢索新動態的優勢,可產生更強大的大模型系統。

Recent Posts

See All
慎防智能代理「無聲」脫軌

試想想,人工智能(AI)系統已在生產環境中完成部署,但究竟要如何防止AI「悄然失靈」?過去3個月,全球超大規模企業在AI基礎設施上的資本支出達到一個前所未有的量級。單憑這一數據,人們或許會得出結論:AI的生產化部署正在全力推進,市場充滿信心。 然而,7月份第一周,來自不同領域的幾個訊號同時浮現,揭示出一個更為複雜的真相。一邊是史無前例的基礎設施投資;另一邊是一群深諳「系統可靠性」的專家──那些專門

 
 
AI預算黑洞 根源在架構設計

過去兩年。美國眾企業不約而同墮入一個速成陷阱: 認為購買了一個模型、聘請幾位演算法工程師、便能成功實現人工智能 (AI) 落地。然而,即使模型選擇正確數據卻 難以整合;數據成功整合,系統卻無法運行;系統成功運行,但業務部門不會操作;即使學會操作,3個月後模型又變得過時。 問題根源其實不在模型,而在架構。猶如建造大樓,若設計圖存在缺陷,再昂貴的材料也難以支撐。許多企業投入巨資購買「鋼筋水泥」(模型和

 
 
智能代理編程戰 懂人機協作致勝

上周把兩個消息放在一起看,很有意思。 第一個,Anthropic宣布Claude Code推出Artifacts,讓軟件工程師在寫程式的過程中,業務主管能同時打開網頁儀表板,就能看到軟件即時更新及開發的狀態。 第二個,中國人民大學和微軟亞洲研究院聯合推出一個叫Arbor開源自主人工智能體的新框架,系統能自動提出假設、修改代碼,運行真實實驗並從結果中學習,自動優化解決問題。 過去一年大家比併的是模型

 
 
bottom of page