RAG 和一般 ChatGPT 差在哪?
一般 ChatGPT 依模型既有知识回答。RAG 会先搜寻你提供的文件,再要求模型只根据检索到的内容回答,并标出来源。它仍可能误解段落,所以要能点回原文。
RAG
RAG 是把企业文件先检索出来,再交给大型语言模型依那些资料整理答案的架构。它不是把整间公司的档案直接「训练」成另一个 ChatGPT。
汇入并解析 PDF、Office 或资料库内容。
切段、产生 Embedding,存入 PostgreSQL/pgvector 或其他向量库。
检索相关片段后由模型作答,并显示来源。必要时加 Reranking。
時程:小范围知识库常见 4~10 周,取决于文件品质、权限与后台需求。
費用:AI/RAG 系统参考 NT$100,000~300,000 起,依资料量、权限与是否串接既有系统调整。
正式價格於需求確認後提供,以上為參考。
Leaf AI Workspace(leafflow-ai.vercel.app):企業文件 RAG 問答、白名單工具查專案/帳款,以及通知前人工確認的公開示範。
一般 ChatGPT 依模型既有知识回答。RAG 会先搜寻你提供的文件,再要求模型只根据检索到的内容回答,并标出来源。它仍可能误解段落,所以要能点回原文。
公司规章、产品与 SOP 会更新,通常先做 RAG。Fine-tuning 比较适合固定语气或格式,不适合当作会变动的知识库。
依登入身分限制可检索的文件集合。回答前先过滤,避免 A 部门问到 B 部门的内部档。