RAG 是什么?
RAG(Retrieval-Augmented Generation,检索增强生成)是先从你提供的文件找出相关段落,再让大型语言模型只根据那些段落整理答案的做法。它适合会更新的规章、SOP、FAQ 与产品资料,不是把整批档案拿去训练成另一个模型。
RAG
RAG 是把企业文件先检索出来,再交给大型语言模型依那些资料整理答案的架构。它不是把整间公司的档案直接「训练」成另一个 ChatGPT。
RAG(Retrieval-Augmented Generation)是企业知识库常见架构:先检索 PDF、SOP、FAQ 或资料库片段,再由大型语言模型依这些片段作答并附上来源。文件更新时重建索引即可,不必把整间公司的资料训练成新模型。
汇入并解析 PDF、Office 或资料库内容。
切段、产生 Embedding,存入 PostgreSQL/pgvector 或其他向量库。
检索相关片段后由模型作答,并显示来源。必要时加 Reranking。
時程:小范围知识库常见 4~10 周,取决于文件品质、权限与后台需求。
費用:AI/RAG 系统参考 NT$100,000~300,000 起,依资料量、权限与是否串接既有系统调整。
正式價格於需求確認後提供,以上為參考。
Leaf AI Workspace:掃描 NAS 資料夾做企業文件知識庫、附頁碼回答,並用受控工具查專案/帳款,通知前先人工確認。
說明 RAG 如何把公司 PDF、SOP 與 FAQ 變成可提問的知識庫,以及它和直接使用 ChatGPT 的差別。
整理企業 RAG 知識庫的價格區間、影響報價的因素,以及為什麼不適合在看文件前報死價。
比較把檔案貼上聊天、使用企業方案,以及自建 RAG/API 串接的差異與風險。
RAG(Retrieval-Augmented Generation,检索增强生成)是先从你提供的文件找出相关段落,再让大型语言模型只根据那些段落整理答案的做法。它适合会更新的规章、SOP、FAQ 与产品资料,不是把整批档案拿去训练成另一个模型。
一般 ChatGPT 依模型既有知识回答,不知道你没提供的内部文件。RAG 会先搜寻指定文件,再要求模型依检索结果作答并标出来源。它仍可能误解段落,所以要能点回原文。
公司规章、产品与 SOP 会更新,通常先做 RAG。Fine-tuning 比较适合固定语气或格式,不适合当作会变动的知识库。
如果问题是查既有文件并附出处,RAG 是常见做法。如果只是摘要、改写或分类且不需要对到原文,一般 LLM API 就够。若还要查资料库或呼叫工具,再加受控 Agent。
小范围知识库常见 4~10 周。AI/RAG 系统参考 NT$100,000~300,000 起;只验证一批文件可否问出答案的 PoC 可从 NT$50,000 起。实际取决于文件品质、权限与是否串接既有系统。
可以。Leaf AI Workspace 的公开示范会扫描指定资料夹,增量同步行政、人资与照护文件,回答时附文件名与页码。正式环境可改挂已挂载的 NAS,检索流程不变。上线前仍要定义谁能查哪一类档案,以及过期文件由谁更新。体验见 https://leafflow-ai.vercel.app/knowledge
一般企业 RAG 不需要微调或自训模型。文件存在自己的检索库,提问时才把相关片段送给 API。是否允许供应商留存资料,要看所选 API 方案与合约。
依登入身分限制可检索的文件集合。回答前先过滤,避免 A 部门问到 B 部门的内部档。