RAG 是什麼?
RAG(Retrieval-Augmented Generation,檢索增強生成)是先從你提供的文件找出相關段落,再讓大型語言模型只根據那些段落整理答案的做法。它適合會更新的規章、SOP、FAQ 與產品資料,不是把整批檔案拿去訓練成另一個模型。
RAG
RAG 是把企業文件先檢索出來,再交給大型語言模型依那些資料整理答案的架構。它不是把整間公司的檔案直接「訓練」成另一個 ChatGPT。
RAG(Retrieval-Augmented Generation)是企業知識庫常見架構:先檢索 PDF、SOP、FAQ 或資料庫片段,再由大型語言模型依這些片段作答並附上來源。文件更新時重建索引即可,不必把整間公司的資料訓練成新模型。
匯入並解析 PDF、Office 或資料庫內容。
切段、產生 Embedding,存入 PostgreSQL/pgvector 或其他向量庫。
檢索相關片段後由模型作答,並顯示來源。必要時加 Reranking。
時程:小範圍知識庫常見 4~10 週,取決於文件品質、權限與後台需求。
費用:AI/RAG 系統參考 NT$100,000~300,000 起,依資料量、權限與是否串接既有系統調整。
正式價格於需求確認後提供,以上為參考。
Leaf AI Workspace:掃描 NAS 資料夾做企業文件知識庫、附頁碼回答,並用受控工具查專案/帳款,通知前先人工確認。
說明 RAG 如何把公司 PDF、SOP 與 FAQ 變成可提問的知識庫,以及它和直接使用 ChatGPT 的差別。
整理企業 RAG 知識庫的價格區間、影響報價的因素,以及為什麼不適合在看文件前報死價。
比較把檔案貼上聊天、使用企業方案,以及自建 RAG/API 串接的差異與風險。
RAG(Retrieval-Augmented Generation,檢索增強生成)是先從你提供的文件找出相關段落,再讓大型語言模型只根據那些段落整理答案的做法。它適合會更新的規章、SOP、FAQ 與產品資料,不是把整批檔案拿去訓練成另一個模型。
一般 ChatGPT 依模型既有知識回答,不知道你沒提供的內部文件。RAG 會先搜尋指定文件,再要求模型依檢索結果作答並標出來源。它仍可能誤解段落,所以要能點回原文。
公司規章、產品與 SOP 會更新,通常先做 RAG。Fine-tuning 比較適合固定語氣或格式,不適合當作會變動的知識庫。
如果問題是查既有文件並附出處,RAG 是常見做法。如果只是摘要、改寫或分類且不需要對到原文,一般 LLM API 就夠。若還要查資料庫或呼叫工具,再加受控 Agent。
小範圍知識庫常見 4~10 週。AI/RAG 系統參考 NT$100,000~300,000 起;只驗證一批文件可否問出答案的 PoC 可從 NT$50,000 起。實際取決於文件品質、權限與是否串接既有系統。
可以。Leaf AI Workspace 的公開示範會掃描指定資料夾,增量同步行政、人資與照護文件,回答時附文件名與頁碼。正式環境可改掛已掛載的 NAS,檢索流程不變。上線前仍要定義誰能查哪一類檔案,以及過期文件由誰更新。體驗見 https://leafflow-ai.vercel.app/knowledge
一般企業 RAG 不需要微調或自訓模型。文件存在自己的檢索庫,提問時才把相關片段送給 API。是否允許供應商留存資料,要看所選 API 方案與合約。
依登入身分限制可檢索的文件集合。回答前先過濾,避免 A 部門問到 B 部門的內部檔。