RAG 和一般 ChatGPT 差在哪?
一般 ChatGPT 依模型既有知識回答。RAG 會先搜尋你提供的文件,再要求模型只根據檢索到的內容回答,並標出來源。它仍可能誤解段落,所以要能點回原文。
RAG
RAG 是把企業文件先檢索出來,再交給大型語言模型依那些資料整理答案的架構。它不是把整間公司的檔案直接「訓練」成另一個 ChatGPT。
匯入並解析 PDF、Office 或資料庫內容。
切段、產生 Embedding,存入 PostgreSQL/pgvector 或其他向量庫。
檢索相關片段後由模型作答,並顯示來源。必要時加 Reranking。
時程:小範圍知識庫常見 4~10 週,取決於文件品質、權限與後台需求。
費用:AI/RAG 系統參考 NT$100,000~300,000 起,依資料量、權限與是否串接既有系統調整。
正式價格於需求確認後提供,以上為參考。
一般 ChatGPT 依模型既有知識回答。RAG 會先搜尋你提供的文件,再要求模型只根據檢索到的內容回答,並標出來源。它仍可能誤解段落,所以要能點回原文。
公司規章、產品與 SOP 會更新,通常先做 RAG。Fine-tuning 比較適合固定語氣或格式,不適合當作會變動的知識庫。
依登入身分限制可檢索的文件集合。回答前先過濾,避免 A 部門問到 B 部門的內部檔。