microblog | 微博客
原创
访问
0
获赞
0
评论
相关推荐
暂无数据
最新文章
暂无数据
热门文章
暂无数据

# 第01章:RAG-搭建企业私有/个人知识库

bug写完了吗 11月14日 13:14:43 0 0 0
分类专栏: AI 文章标签: RAG AI

1、RAG的理解

1.1 什么是RAG

RAG(Retrieval-Augmented Generation,检索增强生成)是一种结合信息检索(Retrieval)与文本生成(Generation)的技术,旨在提升大语言模型在回答专业问题时的准确性和可靠性。

1.2 为什么需要RAG

背景:

  • 大模型的知识冻结
  • 大模型幻觉

举例1:

随着 LLM 规模扩大,训练成本与周期相应增加。因此,包含最新信息的数据难以融入模型训练过程,无法及时反映最新的信息或动态变化,导致 LLM 难以应对诸如“请推荐当前热门影片”等时间敏感性问题。

举例2:

大型语言模型(LLM)的训练依赖于网络上海量公开的静态数据,而某些特定领域(如企业内部资料、专有技术文档等)的数据通常不会作为公开的训练数据,导致模型在面对这些领域的查询时,可能因缺乏足够的信息而生成不准确甚至虚构的回复。

解决方案:

为了解决这一问题,RAG技术通过引入向量数据库(Vector Database)作为外部知识源,将模型缺失的知识以结构化的形式提供。

举例1:

LLM在考试的时候面对陌生的领域,答复能力有限,然后就准备放飞自我了,而此时RAG给了一些提示和思路,让LLM懂了开始往这个提示的方向做,最终考试的正确率从60%到了90%!

image20250304161644357.png

举例2:

image20250304162010172.png

1.3 执行流程

langchainchatglm.png

RAG架构图

检索-增强-生成过程:检索可以理解为第10步,增强理解为第13步(这里的提示词包含检索到的数据),生成理解为第15步。

强调一下难点的步骤(蓝色部分):

image202506241506477691763900801370.png

2、知识库的概述

2.1 哪些人需要搭建知识库

**小型企业主或创业者:**查阅和分享文件、文档、客户反馈、市场分析,大大提升你的工作效率。

**职场打工人或自由职业者:**无论是写作、设计、开发,还是视频制作,知识库都可以管理大量的素材、创意和客户需求,通过知识库,你可以轻松存储和搜索这些资料,并通过大模型二次创作

**教育工作者或学生:**利用知识库管理教学资源、课程安排、教材资料等,学生则可以将课堂笔记、参考书目和作业整理在一起,随时复习和备考。

**生活中的普通人:**无论是旅行计划、兴趣爱好,还是学习笔记,全部都可以集中在知识库管理。

2.2 知识库各个搭建平台对比

很多平台都支持个人知识库的搭建。这里做对比:

2.2.1 核心定位和技术特点

image20250811104941047.png

2.2.2 核心功能清单对比

image20250811105023854.png

2.2.3 部署资源要求

1、GPU依赖区分

  • 必须GPU:RAGFlow(复杂解析)、AnythingLLM本地模式(大模型推理)
  • 无需GPU:Dify(云端推理)、FastGPT(轻量检索)、Cherry Studio(基础对话)

2、内存与存储门槛

  • 低门槛(≤16GB RAM):FastGPT、Cherry Studio
  • 高门槛(≥32GB RAM):RAGFlow(ES数据库缓存)、AnythingLLM(向量库+模型)

3、部署复杂度

  • 简易部署:Cherry Studio(桌面一键安装)、FastGPT(Docker单命令)

  • 复杂部署:RAGFlow(多容器协调)、Dify(Kubernetes集群)

2.2.4 典型场景与选型建议

1. 个人知识管理(轻量级)

  • 需求:快速验证、低预算(开发成本 <= 1周)

  • 推荐工具:Cherry Studio / FastGPT

  • 理由:

    • Cherry Studio 支持多模型对话(如 DeepSeek + Ollama),适合整合笔记/文献;

    • FastGPT 快速构建问答库,48 小时内可上线。

2. 企业级文档解析(高精度需求)

  • 需求:高精度文档分析

  • 推荐工具:RAGFlow / Dify

  • 理由:

    • RAGFlow 处理扫描合同/医疗表格,准确率提升 40%;
    • Dify 串联审核流程 + 多模型路由,适合合规报告生成。

3. 隐私敏感型场景(如法律/金融)

  • 需求:完全私有化、开箱即用

  • 推荐工具:AnythingLLM

  • 理由:

    • 工作区隔离 + 权限管控,确保部门数据独立;
    • 支持本地向量库(ChromaDB),无需 API 外联。

3、Cherry-Studio搭建个人知识库

后续我们会重点拿Coze和Dify讲工作流和智能体,所以知识库这里,我们选另外两个非常不错的平台:Cherry-Studio 和腾讯出品的ima

image20250812215515949.png

3.1 Cherry-Studio特点

小白友好:Cherry Studio 致力于降低技术门槛,零基础用户也能快速上手,让用户专注于工作、学习或者创作。

一问多答:支持同一问题通过多个模型同时生成回复,方便用户对比不同模型的表现

image20250812215731041.png

高度自定义参数:除了基础参数调整外,还支持用户填写自定义参数,满足个性化需求。

image20250812215830194.png

助手市场:内置千余个行业专用助手,涵盖翻译、编程、写作等领域,同时支持用户自定义助手。

image20250812215921204.png

服务商模型聚合:支持 OpenAI、Gemini、Anthropic、Azure 等规范的三方服务商接入,兼容性强。

image20250812220110314.png

数据安全:支持全本地场景使用,结合本地大模型,避免数据泄漏风险。

image20250812220458702.png

3.2 LLM的使用

步骤1:下载与安装客户端工具

Cherry Studio官网:https://cherry-ai.com/

image-20250206181403088 image-20250206181433602

安装过程:傻瓜式安装,这里省略。

步骤2:硅基流动注册账号

这里的大模型,以硅基流动平台为例说明。

网址:https://siliconflow.cn/zh-cn/models

image202502061742173911754883509018.png

用手机号注册即可,新注册的账号有免费的token可以使用。

步骤3:创建API密钥

image202502061753143221754883509018.png

步骤4:复制API密钥

image202502061754023861754883509018.png

步骤5:配置API密钥

image-20250206183839216

image-20250206183905198

步骤6:选择大语言模型

image-20250206184025494

image-20250206184238324

3.3 知识库的使用

步骤1:添加嵌入模型

根据下图确认名称:

image-20250215135814799

回到Cherry Studio添加:

image-20250215135934550

步骤2:创建知识库

image-20250215140253800

上面的pro版本的搜索精度更高,但收费。

提供知识库内容:

image-20250215140732900

这里支持不同格式文件、文件夹、网页地址、大段文本内容等方式添加到知识库。

注意:上传的文件中如果有手写内容,或者表格或复杂的数据公式,那解析的效果就会较差。

步骤3:支持直接检索

检索:

image-20250812222348625

此时的检索,基于RAG(检索增强生成)技术,在数据库中去搜索相应的答案。这里还包括占比得分。

步骤4:基于知识库生成

image-20250215145428200

选中后,提问:

image-20250215145454709

image-20250215145819873

补充:增强文档解析能力

如果上传的文件中如果有手写内容,或者表格或复杂的数据公式,那解析的效果就会较差。这里可以提前将文件进行解析处理,然后再上传到个人知识库。

使用工具:Doc2X

网址:https://doc2x.noedgeai.com/

image-20250215150539651

3.4 流程分析

个人知识库流程

4、ima搭建个人知识库

4.1 ima特点

  • 支持客户端、小程序、网页等多端同步访问
  • 支持腾讯混元大模型、DeepSeek-R1满血版
  • 通过微信提问,模型基于知识库生成答案

4.2 搭建知识库过程

步骤1:下载-安装

网址:https://ima.qq.com/

image-20250220145636939 image-20250304164117927

安装好以后,登录一下即可:

image-20250304164209677

步骤2:新建知识库

image-20250304164621289

image-20250304165129596

步骤3:导入本地文件

image-20250304165508356 image-20250304165612962 image-20250304165629002

步骤4:基于知识库"生成"

image-20250304170741992

image-20250304170840265

4.3 组合互联网网页构成知识库

步骤1:我们可以在微信公众号搜索相关主题的公众号文章,并将他们加入到ima。

步骤2:在ima中新建个人知识库,将相关文章加入到此知识库

image-20250303100647404

image-20250303100722195

image-20250303100806443

步骤3:在文章导入完成以后,可以生成自己的知识库,进而结合大模型进行搜索

image-20250303100836069

image-20250303100927510

4.4 添加第三方知识库

在pc端查看:

image-20250812231019343

image-20250812231035068

手机端公众号:

image-20250303095858747

image-20250303095917783

添加到相关知识库之后,不管在手机端还是同账号的PC端,都可以查看。

5、使用Dify搭建知识库

5.1 Dify介绍

Dify(DefineModify)是一个开源的大语言模型(LLM)应用开发平台,由苏州语灵人工智能推出。

Dify 为 AI Agent 提供了50多种内置工具,如谷歌搜索、DALL·E、Stable Diffusion 和 WolframAlpha 等。

官网:https://dify.ai/zh

说明:https://github.com/langgenius/dify/blob/main/README_CN.md

5.2 源数据格式

通过使用Dify,可以方便快捷地构建私有知识库。可以将知识库放在工作流中,协同多种工具一起使用。而且Dify提供的知识库功能有着简洁的可视化界面,可以很方便地进行管理,适用于个人和团队。

目前Dify 支持多种源数据格式,包括:

  • 长文本内容:TXT、Markdown、DOCX、HTML、JSON、 PDF

  • 结构化数据:CSV、Excel

注:私有知识库要达到良好的效果,必须与embedding模型和reranker模型相结合,请在xinterface中启用相关模型并引入Dify。

5.3 构建私有知识库

步骤1:首先创建一个新的知识库

image-20250607143032172

步骤2:上传知识库文件

这里准备的是一部刑法的txt格式文本,用自然段的形式划分了每一条法则

image-20250607143135427

步骤3:分段设置

大语言模型存在有限的上下文窗口,通常需要将整段文本进行分段处理后,将与用户问题关联度最高的几个段落召回,即分段 top-K 召回模式。此外,在用户问题与文本分段进行语义匹配时,合适的分段大小将有助于匹配关联性最高的文本内容,减少信息噪音。

分段标识符如果是\n,则是以换行为一个分段;如果是\n\n,则是以一个段落为一个分段。点击预览块查看目前块划分的情况。

分段重叠长度一般是分段最大长度的10%-20%。

知识库文档里如果有url、邮箱,还可以把这些过滤掉。

image-20250607143327109

步骤4:选择索引方式

这里自动选择高质量。高质量的准确性更高,但是token消耗也会增加。如果使用的是部署到本地的模型,花费就没有影响。

image-20250607143620519

还有Q&A方式。 如果文档是问答方式,那选择这种方式是最契合的。

步骤5:检索设置

在这里可以选择Embedding模型和Rerank模型,也可以设置Top K,也就是选出最相似的前n条。选择Score阈值,即筛选文本的相似度阈值。

image-20250625091147173

混合检索:既包括向量检索(涉及rerank检索的大模型),也包含全文检索。

设置完成后,保存并处理即可。

image-20250607144635958

5.4 测试

接下来我们进行测试使用。创建一个聊天助手,将提示词写为

你是一个法律小助手,请只根据知识库中的信息,简要回答用户提问的案件触犯了哪些法律

知识库选择刚才添加的刑法.txt,然后可以开始提问。

可以观察到,聊天助手会自动引用知识库中的内容进行回答。

image-20250625091738440



评论区

登录后参与交流、获取后续更新提醒

目录
暂无数据