AI 知识库开源项目全景图
作者:AI 技术调研报告
日期:2025 年 6 月
说明:本文覆盖个人知识管理、团队知识库、RAG 框架、向量数据库及 AI 记忆层等核心领域的主流开源项目,数据截止 2025 年中期。
2026年新增项目(真实数据)
2026年4月爆发项目(基于 GitHub API 真实数据)
| 项目 | Stars | 创建时间 | 核心功能 |
|---|---|---|---|
| AnythingLLM | 61,271⭐ | 2023 | 全栈本地AI知识库平台,No-code Agent Builder |
| mem0 | 58,098⭐ | 2023 | AI Agent通用记忆层,混合检索,LoCoMo基准+20pt |
| Quivr | 39,155⭐ | 2023 | 5行代码RAG知识库,pip install quivr-core |
| Khoj | 35,016⭐ | 2021 | Obsidian/浏览器/手机多端AI第二大脑 |
| Reor | 8,566⭐ | 2024 | 完全本地桌面AI笔记,LanceDB+Transformers.js |
| claude-obsidian | 6,397⭐ | 2026-04 | 15个Claude Code Skills,AI自组织Vault |
| llm-wiki-compiler | 1,486⭐ | 2026-04 | Karpathy模式npm工具,MCP Server,评估框架 |
| karpathy-llm-wiki | 1,027⭐ | 2026-04 | Karpathy模式Skill封装,一行安装 |
| swarmvault | 531⭐ | 2026-04 | 本地优先LLM Wiki,支持Zero-RAG |
| MeMex-Zero-RAG | - | 2026-04 | 无嵌入无向量库,纯Markdown+Git |
最重要趋势(2026年4月):Andrej Karpathy 发布”compile knowledge into a wiki”模式,引发数十个开源项目爆发。核心理念:把 RAG 的”查询时检索”改为”提前编译”,降低 token 消耗,提升知识质量。
1. 领域全景
1.1 为什么 AI 知识库在 2025 年爆发?
2023 年 ChatGPT 掀起 LLM 浪潮后,一个核心矛盾随即浮现:通用大模型不认识”你”——它不知道你的笔记、你的代码仓库、你的工作文档,也无法跨会话记住你说过什么。“AI 知识库”正是填补这道鸿沟的技术方向,其本质是将个人/团队的非结构化知识与 LLM 打通,使模型能够检索、推理、记忆用户私有数据。
技术驱动力来自三个方向的成熟:
- RAG(Retrieval-Augmented Generation):向量化检索 + LLM 生成,解决模型”不知道”的问题
- 向量数据库:Chroma、Qdrant、FAISS 等工具使语义搜索变得廉价
- 本地 LLM:Ollama、llama.cpp 让数据留在本地成为可能,消除隐私顾虑
1.2 市场分类
AI 知识库生态
├── 全栈方案(开箱即用)
│ ├── Khoj ← 最接近"AI 第二大脑"理念
│ ├── AnythingLLM ← 企业/团队定位,UI 最完整
│ ├── Quivr ← 早期明星,2024 年转型
│ └── Reor ← 完全本地,Obsidian 替代品
├── Obsidian 生态插件
│ ├── Smart Connections ← Obsidian 内最受欢迎 AI 插件
│ ├── Obsidian Copilot
│ ├── Text Generator
│ └── Obsidian Local REST API(外部集成桥梁)
├── 自动化框架(知识摄取管道)
│ ├── n8n ← 可视化工作流,工程师首选
│ └── Fabric ← CLI 驱动,AI 处理 pattern
├── RAG 框架(编程构建)
│ ├── LlamaIndex ← RAG 专项,生态最全
│ ├── LangChain ← 通用 LLM 编排,更广泛
│ └── Haystack ← 企业级 NLP/RAG
└── 基础设施层
├── 向量数据库:Chroma / Qdrant / Weaviate / FAISS / LanceDB
└── AI 记忆层:Mem0 / Zep
1.3 选型矩阵
| 维度 \ 方案 | 全栈方案 | Obsidian 插件 | 自动化框架 | RAG 框架 |
|---|---|---|---|---|
| 本地部署 | Khoj/Reor ✅ | Smart Connections ✅ | n8n ✅ | LlamaIndex ✅ |
| 云端服务 | Khoj Cloud/Quivr ✅ | - | n8n Cloud ✅ | 托管服务 ✅ |
| 个人用户 | ★★★★★ | ★★★★★ | ★★★ | ★★ |
| 工程团队 | AnythingLLM ★★★★ | - | n8n ★★★★★ | LlamaIndex ★★★★★ |
| 技术门槛 | 低(GUI) | 极低(插件) | 中(拖拽) | 高(编码) |
| 定制灵活度 | 中 | 低 | 高 | 极高 |
2. 全栈 AI 知识库方案
2.1 Khoj — 开源 AI 第二大脑
GitHub: khoj-ai/khoj
Star 数: 约 28,000+(2025 年中,增速极快)
最新稳定版: v1.x 系列,2024 年完成重大架构重构
官网: khoj.dev
技术栈: Python(FastAPI)+ Vue.js + PostgreSQL + SQLite
核心定位
Khoj 的使命是成为”为每个人服务的 AI”,侧重个人知识管理场景。它可以索引你的笔记(Markdown、Obsidian Vault、Org-mode)、PDF、代码,然后通过对话接口与你的私有知识交互。
核心功能
- 多数据源索引:本地文件(.md, .org, .txt, .pdf)、网页、GitHub 仓库、Notion(需 API key)
- Obsidian 原生集成:提供官方 Obsidian 插件,可直接在 Obsidian 内调用 AI 对话
- 跨平台客户端:Web UI、桌面应用(Electron)、移动端(Android/iOS)
- 多 LLM 支持:OpenAI、Anthropic Claude、Google Gemini、本地 Ollama
- 在线/离线两用:khoj.dev 托管服务 + 完全自托管部署
- Agent 功能:可创建专用 AI Agent,执行联网搜索、生成图片(DALL-E)
- 对话记忆:维护跨会话的对话上下文
与 Obsidian 集成
Khoj 是 Obsidian 集成最深的全栈方案:
- 官方 Obsidian 插件(Obsidian Community Plugins 可安装)
- 实时索引 Vault 中的笔记
- 在 Obsidian 侧边栏直接对话,支持引用具体笔记
- 支持将对话结果写回 Obsidian 笔记
优点
- 开源完全可自托管,数据可控
- Obsidian 集成体验最好
- 支持的数据格式最广(.org 是 Khoj 独有优势)
- 云端版本可快速试用,降低上手成本
- 活跃社区,版本迭代快
缺点
- 自托管需要 Docker + PostgreSQL,运维成本不低
- 团队多用户支持较弱(主要面向个人)
- 向量搜索质量在大规模语料下与专业 RAG 框架有差距
- 企业级权限控制功能缺失
适合场景
- 个人知识工作者,已有大量 Markdown/Obsidian 笔记
- 希望将 AI 接入 Org-mode 笔记的 Emacs 用户
- 需要跨设备访问个人知识库(云端版+移动端)
2.2 AnythingLLM — 多合一本地 LLM 知识库
GitHub: Mintplex-Labs/anything-llm
Star 数: 约 38,000+(2025 年中,增速最快之一)
最新稳定版: v1.x(2024 年下半年达到功能稳定)
技术栈: Node.js(Express)+ React + SQLite/PostgreSQL + LanceDB/Chroma/Qdrant
核心定位
AnythingLLM 定位”企业/团队级多合一 LLM 应用”,提供完整的 Web UI、多工作区(Workspace)隔离、多用户权限管理,是目前功能最全面的全栈开源知识库方案。
核心功能
- 工作区隔离:多 Workspace 支持,不同项目/团队可隔离知识库
- 多 LLM Provider:支持 OpenAI、Azure OpenAI、Claude、Gemini、Ollama、LM Studio、Together.ai 等 20+ 供应商
- 多向量数据库:内置 LanceDB(零配置),可切换至 Chroma、Qdrant、Weaviate、Pinecone
- 文档处理管道:PDF、DOCX、Excel、CSV、HTML、YouTube 视频转录、网页爬取
- 多用户权限:Admin/Manager/默认用户三级权限体系
- Agent 系统:内置代码解释器、联网搜索、文件操作等 Agent 能力
- API 接口:完整 REST API,支持嵌入式聊天组件
- 桌面应用:提供 Electron 打包的桌面版,真正零配置运行
与 Obsidian 集成
AnythingLLM 不提供 Obsidian 原生插件,但可通过以下方式集成:
- 将 Obsidian Vault 目录挂载到 AnythingLLM,批量导入 .md 文件
- 通过 AnythingLLM API + Obsidian Local REST API 实现双向联动(需自行脚本)
优点
- UI 最完善,非技术用户可直接上手
- 桌面版真正一键安装,无需 Docker
- 团队协作功能完整(多用户、权限、工作区)
- 向量数据库可随时切换,不锁定
- 内置嵌入式聊天 Widget,可快速嵌入现有网站
缺点
- Node.js 技术栈,Python 生态集成相对麻烦
- 个人使用略显”笨重”,功能过多
- Obsidian 集成不如 Khoj 原生
- 代码库较大,定制化开发学习曲线陡
适合场景
- 中小团队快速搭建内部知识库
- 需要多用户权限管理的场景
- 希望一键部署、不想写代码的工程团队
2.3 Quivr — 从第二大脑到企业 AI 平台的转型
GitHub: QuivrHQ/quivr
Star 数: 约 37,000+(2025 年中)
技术栈: Python(FastAPI)+ Next.js + Supabase(PostgreSQL + pgvector)
核心定位
Quivr 在 2023 年以”Cloud Brain”概念爆红,是最早一批 RAG 知识库项目之一。2024 年经历了重大重构,从个人第二大脑转型为企业 AI 知识管理平台,新版本引入了 Brain 2.0(对话流程编排)和 Workflow 功能。
核心功能(新版 v0.0.x 系列)
- Brain 系统:每个 Brain 是独立的知识库单元,可单独配置 LLM、向量化模型
- Workflow:可视化构建 AI 处理流程,类似轻量 n8n
- 多格式文档处理:PDF、DOCX、Notion、URLs、YouTube
- Supabase 深度集成:使用 pgvector 作为向量存储,不依赖外部向量数据库
- API 优先:提供完整 REST API,适合集成到现有系统
与 Obsidian 集成
通过 Quivr API 可以将 Obsidian 导出的 Markdown 文件批量上传,但无官方 Obsidian 插件支持。
优缺点
优点:
- Supabase 集成使部署相对简单(有 Supabase 托管方案)
- 企业功能完善,商业支持(Quivr 公司提供云服务)
- pgvector 方案消除独立向量数据库的运维成本
缺点:
- 2024 年重构导致文档混乱,新旧版本 API 不兼容
- 个人场景功能过于复杂
- 社区活跃度随商业化转型有所下降
- 自托管需要完整的 Supabase 栈,部署复杂
适合场景
- 已使用 Supabase 的团队
- 需要商业支持和 SLA 的企业
- 构建面向最终用户的 AI 产品(B2B 场景)
2.4 Reor — 完全本地的 AI 笔记应用
GitHub: reorproject/reor
Star 数: 约 9,000+(2025 年中)
最新版: v0.2.x 系列
技术栈: TypeScript + Electron + React + Transformers.js(本地嵌入)+ SQLite
核心定位
Reor 是 Obsidian 的竞争产品而非插件,定位”私密 AI 笔记应用”。它将 AI 能力完全内置到桌面应用中,所有计算(包括向量嵌入)均在本地完成,无需任何云服务。
核心功能
- 本地语义搜索:使用 Transformers.js 在本地运行嵌入模型(完全离线)
- 自动关联笔记:类似 Smart Connections,自动发现相关笔记
- 本地 LLM 对话:集成 Ollama,在笔记界面直接与本地 LLM 对话
- 类 Obsidian UI:左侧文件树 + 中央编辑器 + 右侧 AI 面板
- 无服务器依赖:完全 Electron 应用,数据存储在本地文件系统
优缺点
优点:
- 最高数据隐私,全程离线(嵌入 + LLM 均本地)
- 安装即用,无配置
- 对极度重视隐私的用户是不二选择
缺点:
- 功能相对简单,Markdown 编辑能力不如 Obsidian
- 社区和插件生态极小
- 无移动端,无多设备同步
- 本地嵌入模型(Transformers.js)质量不如 OpenAI text-embedding-3
适合场景
- 对数据隐私要求极高的研究人员、律师、医疗从业者
- 网络环境受限(无法访问云 API)的场景
- 想用最简单方式体验本地 AI 笔记的用户
3. Obsidian 生态 AI 插件
Obsidian 作为知识库管理的主流工具(2024 年用户超 200 万),已形成完善的 AI 插件生态。以下是核心插件详解。
3.1 Smart Connections — 最受欢迎的 AI 语义插件
GitHub: brianpetro/obsidian-smart-connections
Star 数: 约 4,500+
Obsidian 下载量: 200,000+(Community Plugins 下载量最高的 AI 类插件)
核心功能
- 语义相似笔记:在右侧面板自动显示与当前笔记语义相关的笔记列表
- Smart Chat:内置对话界面,上下文包含整个 Vault 的知识
- 多嵌入模型:支持 OpenAI、本地 Transformers.js(完全离线)
- 增量索引:仅对修改的文件重新嵌入,效率高
- Source 标注:回答时明确标注来源笔记
使用体验
Smart Connections 是最轻量的 AI 知识库接入方式——无需部署任何服务,安装插件、配置 API Key 即可使用。对于已有 Obsidian 的用户,这是进入 AI 知识库的最低门槛路径。
3.2 Obsidian Copilot
GitHub: logancyang/obsidian-copilot
Star 数: 约 5,000+
核心功能
- 多 LLM 支持:OpenAI、Azure、Claude、Gemini、Ollama 等
- Vault QA 模式:对整个 Vault 进行向量化并回答问题
- Chat 模式:带上下文的对话
- 自定义 Prompt:内置多种对话模板
与 Smart Connections 相比,Copilot 更像一个对话界面,而 Smart Connections 更注重自动关联发现。
3.3 Obsidian Local REST API — 外部集成的关键桥梁
GitHub: coddingtonbear/obsidian-local-rest-api
Star 数: 约 2,000+
这个插件本身不提供 AI 功能,但它是将外部系统与 Obsidian 打通的关键:
- 暴露 REST API,允许外部程序读取/写入/搜索 Obsidian 笔记
- Khoj、n8n、自定义脚本均通过此 API 与 Obsidian 交互
- 支持 HTTPS(自签名证书),支持 Token 认证
典型用途:n8n 工作流从 Obsidian 拉取笔记 → 送入 LLM 处理 → 结果写回 Obsidian。
3.4 Text Generator
GitHub: nhaouari/obsidian-textgenerator-plugin
Star 数: 约 2,000+
侧重内容生成而非知识检索:
- 光标位置触发 AI 续写、扩写、摘要
- 自定义 Prompt 模板
- 支持 Handlebars 模板语法,高度可配置
3.5 Obsidian AI 插件对比表
| 插件 | 核心能力 | 需要 API Key | 支持本地 LLM | 学习曲线 | 最适合场景 |
|---|---|---|---|---|---|
| Smart Connections | 语义相似笔记 + Chat | OpenAI / 本地可选 | ✅ Transformers.js | 极低 | 笔记关联发现 |
| Obsidian Copilot | 多 LLM 对话 + Vault QA | 必须 | ✅ Ollama | 低 | 问答 + 写作辅助 |
| Text Generator | AI 写作生成 | 必须 | ✅ | 中 | 内容创作 |
| Local REST API | 外部集成桥梁 | 无需 | - | 低(配置) | 系统集成 |
4. 自动化框架
4.1 n8n — 工程师首选的可视化工作流引擎
GitHub: n8n-io/n8n
Star 数: 约 55,000+(2025 年中,增速极快)
技术栈: TypeScript + Vue.js + SQLite/PostgreSQL
最新版: v1.x 系列,2024 年推出 AI Agent 节点
n8n 在知识库场景的价值
n8n 不是知识库工具,但它是构建知识摄取自动化管道的利器:
典型知识摄取流水线示例:
[触发器: 新 PDF 上传到 Google Drive]
↓
[n8n: 下载文件 → 文本提取]
↓
[n8n: 调用 OpenAI Embeddings API]
↓
[n8n: 写入 Qdrant 向量库]
↓
[n8n: 通过 Obsidian Local REST API 写入笔记]
↓
[n8n: 发送 Slack 通知]
AI Agent 节点(2024 年新增)
n8n v1.x 引入了专门的 AI 节点:
- AI Agent 节点:可配置工具(HTTP 请求、代码执行、向量搜索)的自主 Agent
- 向量存储节点:内置 Pinecone、Qdrant、Supabase Vector 连接器
- LLM Chain 节点:支持 OpenAI、Anthropic、Azure 等
- Document Loader 节点:PDF、DOCX、HTML 等格式解析
为什么工程师选 n8n 而非 Zapier/Make
| 对比项 | n8n | Zapier | Make |
|---|---|---|---|
| 自托管 | ✅ 完全支持 | ❌ 仅云端 | 有限 |
| 代码节点 | ✅ JS/Python | 有限 | 有限 |
| AI 专用节点 | ✅ 完整生态 | 基础 | 基础 |
| 数据隐私 | ✅ 本地处理 | ❌ 云端处理 | 部分 |
| 定价 | 开源免费 | 按任务收费 | 按操作收费 |
| 向量数据库集成 | ✅ 原生 | ❌ 无 | ❌ 无 |
4.2 Fabric — AI 处理 Pattern 框架
GitHub: danielmiessler/fabric
Star 数: 约 29,000+(2025 年中)
技术栈: Go(主程序)+ Markdown(Pattern 定义)
作者: Daniel Miessler(安全研究员)
核心理念
Fabric 的理念是将 AI 处理任务拆解为可复用的”Pattern”(本质是精心设计的 System Prompt + 工作流)。与图形化工具不同,Fabric 是命令行驱动的,适合习惯终端的工程师。
Pattern 示例(与知识库相关)
# 从 YouTube 视频提取关键见解
fabric --youtube https://youtu.be/xxx --pattern extract_wisdom
# 总结长文档
cat research_paper.pdf | fabric --pattern summarize
# 提取文章中的行动项
cat article.md | fabric --pattern extract_action_items
# 生成 Obsidian 友好的笔记格式
cat transcript.txt | fabric --pattern create_markmap | pbcopy内置知识库相关 Pattern
extract_wisdom:从内容中提取见解、引用、习惯summarize:多层次摘要create_markmap:生成思维导图explain_code:代码解释write_essay:基于输入生成文章analyze_paper:学术论文分析
与知识库集成
Fabric 最适合作为知识摄取的预处理层:
- 处理完的内容通过管道输出为 Markdown
- 直接写入 Obsidian Vault 目录
- 配合 n8n 作为文档处理节点
5. RAG 框架层
RAG(Retrieval-Augmented Generation)框架是构建定制知识库系统的编程工具。以下对比三个主流框架。
5.1 LlamaIndex — RAG 专项框架
GitHub: run-llama/llama_index
Star 数: 约 40,000+(2025 年中)
技术栈: Python
最新版: v0.10.x 系列,2024 年完成核心 API 重构
核心优势
- RAG 原语最丰富:提供 Nodes、Indexes、Retrievers、QueryEngines、Response Synthesizers 等精细化抽象
- 多索引类型:向量索引、关键词索引、知识图谱索引、摘要索引
- 高级 RAG 技术:HyDE、BM25 混合检索、句子窗口检索、自查询检索
- 多文档处理器:100+ 文档加载器(PDF、DOCX、Notion、Confluence、Slack 等)
- Agent 框架:ReAct Agent、OpenAI Function Agent
代码示例(构建简单 RAG)
from llama_index.core import VectorStoreIndex, SimpleDirectoryReader
from llama_index.vector_stores.qdrant import QdrantVectorStore
import qdrant_client
# 加载文档
documents = SimpleDirectoryReader("./obsidian_vault").load_data()
# 构建索引(使用 Qdrant 存储)
client = qdrant_client.QdrantClient(":memory:")
vector_store = QdrantVectorStore(client=client, collection_name="notes")
index = VectorStoreIndex.from_documents(documents, vector_store=vector_store)
# 查询
query_engine = index.as_query_engine()
response = query_engine.query("什么是 Zettlekasten 方法?")5.2 LangChain — 通用 LLM 编排框架
GitHub: langchain-ai/langchain
Star 数: 约 97,000+(最多 Star 的 LLM 框架)
技术栈: Python / TypeScript
与 LlamaIndex 的核心区别
LangChain 的定位更广,是通用 LLM 应用编排框架,RAG 只是其中一个场景。
| 对比项 | LlamaIndex | LangChain |
|---|---|---|
| 专注领域 | RAG / 知识检索 | 通用 LLM 应用 |
| RAG 能力 | ★★★★★(更丰富的索引类型) | ★★★★ |
| Agent 能力 | ★★★★ | ★★★★★ |
| 学习曲线 | 中等 | 较陡 |
| 文档质量 | ★★★★★ | ★★★ |
| 社区活跃度 | 极高 | 极高 |
| 适合场景 | 知识库/文档问答 | 复杂 Agent/工作流 |
选型建议:构建知识库类应用优先用 LlamaIndex;构建复杂 Agent 或需要大量 Tool Calling 的应用考虑 LangChain。
5.3 Haystack — 企业级 NLP/RAG 框架
GitHub: deepset-ai/haystack
Star 数: 约 18,000+
技术栈: Python
公司背景: deepset.ai(德国 AI 公司)
核心特点
- Pipeline 架构:基于 DAG(有向无环图)的处理管道,每个组件高度解耦
- 企业级功能:完整的评估框架(Retrieval/Generation 评估指标)
- Haystack 2.0:2024 年重构版本,API 更清晰
- 深度定制:每个组件均可替换,适合复杂定制需求
适合场景:需要严格评估和优化 RAG 质量的企业,或需要构建非标准流程(如多跳问答、对话式搜索)的场景。
5.4 RAG 框架选型对比
| 框架 | Star | 专注 | 上手难度 | RAG 能力 | Agent | 推荐指数 |
|---|---|---|---|---|---|---|
| LlamaIndex | 40k+ | RAG | ★★★ | ★★★★★ | ★★★★ | 知识库首选 |
| LangChain | 97k+ | 通用 | ★★ | ★★★★ | ★★★★★ | 复杂场景 |
| Haystack | 18k+ | 企业 NLP | ★★ | ★★★★ | ★★★ | 企业评估 |
6. 向量数据库选型
向量数据库是 RAG 系统的存储核心。以下对主流选项进行完整对比。
6.1 完整对比表
| 数据库 | Stars | 语言 | 本地部署 | 性能 | Python API | 托管云服务 | 许可证 |
|---|---|---|---|---|---|---|---|
| Chroma | 16k+ | Python | ✅ 极简 | 中等(小规模) | ★★★★★ | 有限 | Apache 2.0 |
| Qdrant | 22k+ | Rust | ✅ Docker 一键 | ★★★★★ | ★★★★★ | ✅ cloud.qdrant.io | Apache 2.0 |
| Weaviate | 12k+ | Go | ✅ Docker | ★★★★ | ★★★★ | ✅ weaviate.io | BSD-3 |
| FAISS | 32k+ | C++ | ✅ pip install | ★★★★★(批量) | ★★★ | ❌ 无托管 | MIT |
| LanceDB | 6k+ | Rust | ✅ pip install | ★★★★★(多模态) | ★★★★ | ✅ LanceDB Cloud | Apache 2.0 |
| Milvus | 32k+ | Go/C++ | ✅ Docker | ★★★★★ | ★★★★ | ✅ Zilliz Cloud | Apache 2.0 |
| pgvector | 14k+ | C(PG扩展) | ✅ PostgreSQL扩展 | ★★★(已有PG场景) | ★★★★ | ✅ Supabase等 | PostgreSQL License |
6.2 详细说明
Chroma — 最适合快速原型
import chromadb
client = chromadb.Client() # 内存模式,零配置
# 或持久化:chromadb.PersistentClient(path="./db")
collection = client.create_collection("my_notes")
collection.add(documents=["笔记内容..."], ids=["note1"])- 最大优点:Python 原生,
pip install chromadb即可,API 最简洁 - 主要缺点:大规模(>100万向量)性能不足;持久化不够稳定
- 推荐用途:快速原型、个人项目、学习 RAG 概念
Qdrant — 综合能力最强
Qdrant 是当前综合评分最高的向量数据库:
- Rust 实现,性能极高(毫秒级延迟,百万级向量)
- 丰富的过滤功能(元数据过滤 + 向量搜索组合)
- 支持 Sparse Vectors(BM25)和 Dense Vectors 混合搜索
- 官方 Docker 镜像极为简洁:
docker run -p 6333:6333 qdrant/qdrant
推荐用途:生产环境知识库、需要精确过滤的场景
FAISS — 性能最极致的本地库
Facebook AI Research 出品,不是数据库而是纯索引库:
- 超高性能批量检索(亿级向量)
- 无持久化服务,纯 Python/C++ 库
- 无 HTTP API,只能在同一进程使用
推荐用途:离线批量处理、性能要求极高且无需持久化服务的场景
LanceDB — 新秀,多模态友好
2023 年出现的新项目,技术架构有别于传统向量数据库:
- 基于 Lance 列存格式,天然支持多模态(图片、音频、文本向量混合)
- 无服务器模式(文件即数据库),适合边缘部署
- AnythingLLM 默认使用 LanceDB
推荐用途:多模态知识库、嵌入式/边缘部署场景
pgvector — 已有 PostgreSQL 时的自然选择
如果系统已经使用 PostgreSQL,pgvector 是最自然的添加向量能力的方式:
- 无需额外服务,向量搜索与关系查询在同一数据库
- Supabase 默认集成,Quivr 的存储方案
- 向量搜索性能不如专用数据库,但对中小规模(<100万向量)足够用
7. AI 记忆层
RAG 解决”模型不认识文档”的问题,但还有另一个问题:模型不记得之前的对话。AI 记忆层专门解决跨会话、跨对话的记忆持久化。
7.1 Mem0 — 专为 AI 设计的记忆层
GitHub: mem0ai/mem0(原名 EmbedChain)
Star 数: 约 26,000+(2025 年中,增速极快)
技术栈: Python
存储支持: Qdrant / Chroma / PostgreSQL(pgvector)/ Redis
核心概念
Mem0 将记忆分为三层:
- User Memory:用户偏好、背景信息(“用户更喜欢 Python 而非 JavaScript”)
- Session Memory:当前会话上下文
- Agent Memory:Agent 执行过程中积累的知识
from mem0 import Memory
m = Memory()
# 添加记忆
m.add("用户偏好使用 vim 编辑器,不喜欢 IDE", user_id="alice")
m.add("用户正在做的项目是 Android 性能分析工具", user_id="alice")
# 检索相关记忆
memories = m.search("编辑器推荐", user_id="alice")
# 返回:vim 相关的记忆与 RAG 的关系
RAG 和 Mem0 互补而非竞争:
- RAG:让模型访问外部知识文档(“我的文档里有什么”)
- Mem0:让模型记住关于用户/对话的动态信息(“我了解用户什么”)
完整 AI 知识库 = 静态文档 RAG + 动态用户记忆 Mem0
7.2 Zep — 对话记忆专项方案
GitHub: getzep/zep
Star 数: 约 3,500+
技术栈: Go(服务端)+ PostgreSQL
核心功能
- 自动摘要:长对话自动滚动摘要,防止上下文溢出
- 对话向量化:对话历史自动向量化,支持语义搜索
- 实体提取:从对话中提取命名实体(人名、地点、概念)
- Session 管理:多用户多会话管理
Zep vs Mem0
| 对比项 | Mem0 | Zep |
|---|---|---|
| 专注方向 | 用户/Agent 长期记忆 | 对话历史管理 |
| 存储灵活性 | 多向量库可选 | 主要 PostgreSQL |
| 使用场景 | 个性化 AI 助手 | 对话式 AI 应用 |
| 部署难度 | 极低(pip) | 中等(独立服务) |
8. 推荐技术栈组合
8.1 个人工程师(简单上手)
推荐方案:Khoj + Obsidian
Obsidian(笔记管理)
↓ 官方插件同步
Khoj(AI 知识库引擎)
├── Ollama(本地 LLM,Llama3/Mistral)
└── SQLite(轻量存储)
理由:
- Khoj 对 Obsidian 集成支持最好,有官方插件
- 一个 Docker Compose 文件即可启动(
khoj-ai/khoj仓库有现成配置) - 支持离线(Ollama)和在线(OpenAI)两种模式灵活切换
- 笔记在 Obsidian 编辑,AI 能力由 Khoj 提供,职责分离清晰
安装成本:约 30 分钟,Docker + Obsidian 插件安装
8.2 工程团队(生产级)
推荐方案:AnythingLLM + Qdrant + n8n
数据摄取层:n8n
├── 触发器:文件上传/Slack/Email
├── 文档解析:PDF/DOCX/Notion
└── 向量化:OpenAI Embeddings API
↓
存储层:Qdrant(Docker)
↓
应用层:AnythingLLM
├── 多用户权限管理
├── 工作区隔离(按团队/项目)
└── REST API(供其他系统调用)
理由:
- AnythingLLM 提供完整 Web UI,非技术团队成员可直接使用
- n8n 负责自动化知识摄取(无需手动上传文档)
- Qdrant 在生产环境中性能稳定,Rust 实现低内存占用
- 三个组件均可 Docker 部署,运维成本可接受
部署成本:约 2-4 小时,需要基本的 Docker Compose 知识
8.3 完全本地(数据隐私优先)
推荐方案:Reor / Khoj(自托管)+ Ollama + ChromaDB
笔记/文档
↓
Reor(桌面应用,完全离线)
├── Transformers.js(本地嵌入,无需 API)
└── Ollama(本地 LLM:Llama3、Mistral、Phi-3)
或(需要更好质量 + 更多数据格式):
Khoj(自托管)
├── Ollama(本地 LLM)
├── fastembed(本地嵌入)
└── SQLite(本地存储)
理由:
- Reor 是最简单的全本地方案,安装即用,无任何网络请求
- 如果笔记量大或需要更多格式支持,Khoj 自托管 + 本地模型是更好选择
- Ollama 让本地 LLM 部署极其简便(一条命令)
- 不向任何云服务发送数据
注意事项:本地 LLM(7B/13B 参数)在回答质量上仍弱于 GPT-4/Claude;嵌入质量也略低于 OpenAI text-embedding-3,这是隐私与质量之间的权衡。
8.4 技术构建(开发者定制)
推荐方案:LlamaIndex + Qdrant + Mem0 + FastAPI
# 架构示意
from llama_index.core import VectorStoreIndex
from llama_index.vector_stores.qdrant import QdrantVectorStore
from mem0 import Memory
# RAG:文档检索
index = VectorStoreIndex.from_documents(docs, vector_store=qdrant_store)
query_engine = index.as_query_engine()
# 记忆:用户偏好
memory = Memory(config={"vector_store": {"provider": "qdrant"}})
# 查询时组合两者
def query_with_memory(question: str, user_id: str):
user_memories = memory.search(question, user_id=user_id)
context = f"用户背景:{user_memories}\n\n"
return query_engine.query(context + question)理由:
- LlamaIndex 提供最丰富的 RAG 原语(多索引类型、高级检索策略)
- Qdrant 提供生产级向量存储(同时用于 RAG 索引和 Mem0)
- Mem0 添加跨会话用户记忆,让 AI 更”了解”用户
- FastAPI 暴露 API,可集成到任意前端
适合:需要高度定制的团队,或构建面向最终用户的 AI 产品
9. 快速上手路径
9.1 30 分钟搭建最小可用版本
选择 AnythingLLM 桌面版(对非 Docker 用户最友好)
前置条件:
- macOS / Windows / Linux 桌面环境
- OpenAI API Key(或本地 Ollama)
步骤:
# Step 1: 下载 AnythingLLM 桌面版(约 5 分钟)
# 访问 https://anythingllm.com/download 下载对应平台安装包
# 安装后直接启动
# Step 2: 配置 LLM(约 2 分钟)
# 设置 → LLM 偏好 → 选择 OpenAI → 填入 API Key
# (或选择 Ollama,需提前安装 ollama + pull 模型)
# Step 3: 创建工作区(约 1 分钟)
# 首页 → 新建工作区 → 命名为"我的知识库"
# Step 4: 上传文档(约 5 分钟)
# 拖入 PDF/Markdown 文件 → 等待向量化完成
# Step 5: 开始对话(即时)
# 在聊天框提问,AI 会基于你的文档回答总耗时:~15 分钟,含文档上传
9.2 进阶:基于 Khoj 搭建 Obsidian 集成
# Step 1: 安装 Docker(假设已安装)
# Step 2: 启动 Khoj
docker run -it -p 42110:42110 \
-v ~/.khoj:/root/.khoj \
ghcr.io/khoj-ai/khoj:latest
# Step 3: 安装 Obsidian 插件
# Obsidian → 设置 → 第三方插件 → 搜索 "Khoj" → 安装 → 启用
# 配置插件 → 填入 http://localhost:42110 → 填入 API Key
# Step 4: 初次同步
# Khoj → 设置 → 内容类型 → 本地文件 → 添加 Obsidian Vault 路径
# 点击"立即同步"
# Step 5: 开始使用
# Obsidian 侧边栏 → Khoj 图标 → 提问9.3 进阶:n8n + Qdrant 自动化管道
# docker-compose.yml
version: '3.8'
services:
qdrant:
image: qdrant/qdrant:latest
ports:
- "6333:6333"
volumes:
- ./qdrant_storage:/qdrant/storage
n8n:
image: n8nio/n8n:latest
ports:
- "5678:5678"
environment:
- N8N_BASIC_AUTH_ACTIVE=true
- N8N_BASIC_AUTH_USER=admin
- N8N_BASIC_AUTH_PASSWORD=password
volumes:
- ./n8n_data:/home/node/.n8ndocker-compose up -d
# 访问 http://localhost:5678 配置工作流10. 总结与选型建议
按使用场景快速选型
| 你的需求 | 推荐方案 | 入门难度 |
|---|---|---|
| 已有 Obsidian,想加 AI | Smart Connections 插件 | 极低 |
| 想要完整 AI 第二大脑 | Khoj(自托管) | 低 |
| 团队共享知识库 | AnythingLLM | 低 |
| 完全本地,数据不出设备 | Reor / Khoj + Ollama | 低 |
| 自动化知识摄取流程 | n8n | 中 |
| 构建定制 RAG 应用 | LlamaIndex + Qdrant | 高 |
| CLI 驱动的 AI 内容处理 | Fabric | 中 |
| 需要 AI 跨会话记忆 | Mem0 | 中 |
生态成熟度评估
★★★★★ 生产就绪 AnythingLLM、n8n、LlamaIndex、LangChain、Qdrant
★★★★ 稳定可用 Khoj、Quivr、Chroma、FAISS、Smart Connections
★★★ 快速迭代 Mem0、Fabric、LanceDB、Reor
★★ 早期探索 Zep、pgvector(作为向量库)
2025 年趋势观察
- Agent 化:工具从”问答”进化到”自主执行任务”,AnythingLLM 的 Agent 节点、n8n 的 AI Agent 节点都是信号
- 本地化加速:Ollama 极大降低本地 LLM 门槛,Reor、Khoj 的本地模式越来越完善
- 多模态延伸:LanceDB 的多模态支持、知识库从纯文本扩展到图片/音频
- 记忆层崛起:Mem0 快速增长说明”有记忆的 AI”需求强烈
- RAG 质量提升:混合检索(稠密+稀疏)、重排序(Reranker)成为标配
参考资源
- Khoj 官网:https://khoj.dev / GitHub:https://github.com/khoj-ai/khoj
- AnythingLLM GitHub:https://github.com/Mintplex-Labs/anything-llm
- Quivr GitHub:https://github.com/QuivrHQ/quivr
- Reor GitHub:https://github.com/reorproject/reor
- Mem0 GitHub:https://github.com/mem0ai/mem0
- Fabric GitHub:https://github.com/danielmiessler/fabric
- n8n GitHub:https://github.com/n8n-io/n8n
- LlamaIndex GitHub:https://github.com/run-llama/llama_index
- Chroma GitHub:https://github.com/chroma-core/chroma
- Qdrant GitHub:https://github.com/qdrant/qdrant
- Smart Connections GitHub:https://github.com/brianpetro/obsidian-smart-connections
免责说明:Star 数量为 2025 年中期估计值,实际数字以 GitHub 实时显示为准。本文旨在提供技术选型参考,不构成任何商业建议。