RAG 是什麼?
RAG(Retrieval-Augmented Generation)是一種先搜尋、再生成的做法。系統先從你提供的文件找出相關段落,再把那些段落交給大型語言模型整理成答案。
企業可把 PDF、Word、Excel、FAQ、SOP、商品資料或資料庫內容建成可搜尋的知識來源。使用者用自然語言提問,例如「這項產品的保固條件是什麼?」答案應附上來源,而不是只給一段無法核對的文字。
它解決什麼問題?
文件很多、關鍵字不好記、新人重複問同一件事時,RAG 比再做一套靜態 FAQ 更接近實際問法。它適合制度、產品說明與內部 SOP,不適合取代尚未定義規則的商業決策。
和 ChatGPT、Fine-tuning 的差別
直接使用 ChatGPT,模型並不知道你未提供的內部文件。Fine-tuning 改變的是模型行為或格式,檔案一更新就不會自動學會。RAG 則在每次提問時重新檢索,比較適合會改版的公司文件。
RAG 仍可能抓錯段落或誤解句子。實務上要顯示來源、限制可檢索範圍,並安排文件更新與下架,而不是宣稱零幻覺。
建置時要先決定的事
包含哪些資料、誰能查哪一類文件、答案能不能被客服直接貼給客戶,以及過期文件由誰更新。這些沒定之前,不適合承諾時程與價格。
作者
葉科技
我們有 13+ 年軟體開發經驗,專注 AI 系統整合與 Web 系統開發。公司自 2022 年設立,實作包含自有 AI 影音 SaaS、會員與進銷存系統、後台,以及把辨識能力嵌進既有產品。
常見問題
RAG 需要把公司資料拿去訓練模型嗎?
一般不需要。文件是被檢索,再提供給模型當參考。是否允許供應商保留資料,要看你選用的 API 方案與合約。
下一步請看 RAG / AI 知識庫開發。