RAG 是什么?
RAG(Retrieval-Augmented Generation)是一种先搜寻、再生成的做法。系统先从你提供的文件找出相关段落,再把那些段落交给大型语言模型整理成答案。
企业可把 PDF、Word、Excel、FAQ、SOP、商品资料或资料库内容建成可搜寻的知识来源。使用者用自然语言提问,例如「这项产品的保固条件是什么?」答案应附上来源,而不是只给一段无法核对的文字。
它解决什么问题?
文件很多、关键字不好记、新人重复问同一件事时,RAG 比再做一套静态 FAQ 更接近实际问法。它适合制度、产品说明与内部 SOP,不适合取代尚未定义规则的商业决策。
和 ChatGPT、Fine-tuning 的差别
直接使用 ChatGPT,模型并不知道你未提供的内部文件。Fine-tuning 改变的是模型行为或格式,档案一更新就不会自动学会。RAG 则在每次提问时重新检索,比较适合会改版的公司文件。
RAG 仍可能抓错段落或误解句子。实务上要显示来源、限制可检索范围,并安排文件更新与下架,而不是宣称零幻觉。
建置时要先决定的事
包含哪些资料、谁能查哪一类文件、答案能不能被客服直接贴给客户,以及过期文件由谁更新。这些没定之前,不适合承诺时程与价格。
作者
叶科技
我们有 13+ 年软体开发经验,专注 AI 系统整合与 Web 系统开发。公司自 2022 年设立,实作包含自有 AI 影音 SaaS(Mofly AI)、心测 Web 产品(MindTest AI)、企业 AI 助理(Leaf AI Workspace)、会员与进销存系统、后台,以及把辨识能力嵌进既有产品。
常见问题
RAG 需要把公司资料拿去训练模型吗?
一般不需要。文件是被检索,再提供给模型当参考。是否允许供应商保留资料,要看你选用的 API 方案与合约。
下一步请看 RAG / AI 知识库开发。