AI 知识库开源项目全景图

作者:AI 技术调研报告
日期:2025 年 6 月
说明:本文覆盖个人知识管理、团队知识库、RAG 框架、向量数据库及 AI 记忆层等核心领域的主流开源项目,数据截止 2025 年中期。


2026年新增项目(真实数据)

2026年4月爆发项目(基于 GitHub API 真实数据)

项目Stars创建时间核心功能
AnythingLLM61,271⭐2023全栈本地AI知识库平台,No-code Agent Builder
mem058,098⭐2023AI Agent通用记忆层,混合检索,LoCoMo基准+20pt
Quivr39,155⭐20235行代码RAG知识库,pip install quivr-core
Khoj35,016⭐2021Obsidian/浏览器/手机多端AI第二大脑
Reor8,566⭐2024完全本地桌面AI笔记,LanceDB+Transformers.js
claude-obsidian6,397⭐2026-0415个Claude Code Skills,AI自组织Vault
llm-wiki-compiler1,486⭐2026-04Karpathy模式npm工具,MCP Server,评估框架
karpathy-llm-wiki1,027⭐2026-04Karpathy模式Skill封装,一行安装
swarmvault531⭐2026-04本地优先LLM Wiki,支持Zero-RAG
MeMex-Zero-RAG-2026-04无嵌入无向量库,纯Markdown+Git

最重要趋势(2026年4月):Andrej Karpathy 发布”compile knowledge into a wiki”模式,引发数十个开源项目爆发。核心理念:把 RAG 的”查询时检索”改为”提前编译”,降低 token 消耗,提升知识质量。


1. 领域全景

1.1 为什么 AI 知识库在 2025 年爆发?

2023 年 ChatGPT 掀起 LLM 浪潮后,一个核心矛盾随即浮现:通用大模型不认识”你”——它不知道你的笔记、你的代码仓库、你的工作文档,也无法跨会话记住你说过什么。“AI 知识库”正是填补这道鸿沟的技术方向,其本质是将个人/团队的非结构化知识与 LLM 打通,使模型能够检索、推理、记忆用户私有数据。

技术驱动力来自三个方向的成熟:

  • RAG(Retrieval-Augmented Generation):向量化检索 + LLM 生成,解决模型”不知道”的问题
  • 向量数据库:Chroma、Qdrant、FAISS 等工具使语义搜索变得廉价
  • 本地 LLM:Ollama、llama.cpp 让数据留在本地成为可能,消除隐私顾虑

1.2 市场分类

AI 知识库生态
├── 全栈方案(开箱即用)
│   ├── Khoj            ← 最接近"AI 第二大脑"理念
│   ├── AnythingLLM     ← 企业/团队定位,UI 最完整
│   ├── Quivr           ← 早期明星,2024 年转型
│   └── Reor            ← 完全本地,Obsidian 替代品
├── Obsidian 生态插件
│   ├── Smart Connections  ← Obsidian 内最受欢迎 AI 插件
│   ├── Obsidian Copilot
│   ├── Text Generator
│   └── Obsidian Local REST API(外部集成桥梁)
├── 自动化框架(知识摄取管道)
│   ├── n8n             ← 可视化工作流,工程师首选
│   └── Fabric          ← CLI 驱动,AI 处理 pattern
├── RAG 框架(编程构建)
│   ├── LlamaIndex      ← RAG 专项,生态最全
│   ├── LangChain       ← 通用 LLM 编排,更广泛
│   └── Haystack        ← 企业级 NLP/RAG
└── 基础设施层
    ├── 向量数据库:Chroma / Qdrant / Weaviate / FAISS / LanceDB
    └── AI 记忆层:Mem0 / Zep

1.3 选型矩阵

维度 \ 方案全栈方案Obsidian 插件自动化框架RAG 框架
本地部署Khoj/Reor ✅Smart Connections ✅n8n ✅LlamaIndex ✅
云端服务Khoj Cloud/Quivr ✅-n8n Cloud ✅托管服务 ✅
个人用户★★★★★★★★★★★★★★★
工程团队AnythingLLM ★★★★-n8n ★★★★★LlamaIndex ★★★★★
技术门槛低(GUI)极低(插件)中(拖拽)高(编码)
定制灵活度极高

2. 全栈 AI 知识库方案

2.1 Khoj — 开源 AI 第二大脑

GitHub: khoj-ai/khoj
Star 数: 约 28,000+(2025 年中,增速极快)
最新稳定版: v1.x 系列,2024 年完成重大架构重构
官网: khoj.dev
技术栈: Python(FastAPI)+ Vue.js + PostgreSQL + SQLite

核心定位

Khoj 的使命是成为”为每个人服务的 AI”,侧重个人知识管理场景。它可以索引你的笔记(Markdown、Obsidian Vault、Org-mode)、PDF、代码,然后通过对话接口与你的私有知识交互。

核心功能

  • 多数据源索引:本地文件(.md, .org, .txt, .pdf)、网页、GitHub 仓库、Notion(需 API key)
  • Obsidian 原生集成:提供官方 Obsidian 插件,可直接在 Obsidian 内调用 AI 对话
  • 跨平台客户端:Web UI、桌面应用(Electron)、移动端(Android/iOS)
  • 多 LLM 支持:OpenAI、Anthropic Claude、Google Gemini、本地 Ollama
  • 在线/离线两用:khoj.dev 托管服务 + 完全自托管部署
  • Agent 功能:可创建专用 AI Agent,执行联网搜索、生成图片(DALL-E)
  • 对话记忆:维护跨会话的对话上下文

与 Obsidian 集成

Khoj 是 Obsidian 集成最深的全栈方案:

  1. 官方 Obsidian 插件(Obsidian Community Plugins 可安装)
  2. 实时索引 Vault 中的笔记
  3. 在 Obsidian 侧边栏直接对话,支持引用具体笔记
  4. 支持将对话结果写回 Obsidian 笔记

优点

  • 开源完全可自托管,数据可控
  • Obsidian 集成体验最好
  • 支持的数据格式最广(.org 是 Khoj 独有优势)
  • 云端版本可快速试用,降低上手成本
  • 活跃社区,版本迭代快

缺点

  • 自托管需要 Docker + PostgreSQL,运维成本不低
  • 团队多用户支持较弱(主要面向个人)
  • 向量搜索质量在大规模语料下与专业 RAG 框架有差距
  • 企业级权限控制功能缺失

适合场景

  • 个人知识工作者,已有大量 Markdown/Obsidian 笔记
  • 希望将 AI 接入 Org-mode 笔记的 Emacs 用户
  • 需要跨设备访问个人知识库(云端版+移动端)

2.2 AnythingLLM — 多合一本地 LLM 知识库

GitHub: Mintplex-Labs/anything-llm
Star 数: 约 38,000+(2025 年中,增速最快之一)
最新稳定版: v1.x(2024 年下半年达到功能稳定)
技术栈: Node.js(Express)+ React + SQLite/PostgreSQL + LanceDB/Chroma/Qdrant

核心定位

AnythingLLM 定位”企业/团队级多合一 LLM 应用”,提供完整的 Web UI、多工作区(Workspace)隔离、多用户权限管理,是目前功能最全面的全栈开源知识库方案。

核心功能

  • 工作区隔离:多 Workspace 支持,不同项目/团队可隔离知识库
  • 多 LLM Provider:支持 OpenAI、Azure OpenAI、Claude、Gemini、Ollama、LM Studio、Together.ai 等 20+ 供应商
  • 多向量数据库:内置 LanceDB(零配置),可切换至 Chroma、Qdrant、Weaviate、Pinecone
  • 文档处理管道:PDF、DOCX、Excel、CSV、HTML、YouTube 视频转录、网页爬取
  • 多用户权限:Admin/Manager/默认用户三级权限体系
  • Agent 系统:内置代码解释器、联网搜索、文件操作等 Agent 能力
  • API 接口:完整 REST API,支持嵌入式聊天组件
  • 桌面应用:提供 Electron 打包的桌面版,真正零配置运行

与 Obsidian 集成

AnythingLLM 不提供 Obsidian 原生插件,但可通过以下方式集成:

  • 将 Obsidian Vault 目录挂载到 AnythingLLM,批量导入 .md 文件
  • 通过 AnythingLLM API + Obsidian Local REST API 实现双向联动(需自行脚本)

优点

  • UI 最完善,非技术用户可直接上手
  • 桌面版真正一键安装,无需 Docker
  • 团队协作功能完整(多用户、权限、工作区)
  • 向量数据库可随时切换,不锁定
  • 内置嵌入式聊天 Widget,可快速嵌入现有网站

缺点

  • Node.js 技术栈,Python 生态集成相对麻烦
  • 个人使用略显”笨重”,功能过多
  • Obsidian 集成不如 Khoj 原生
  • 代码库较大,定制化开发学习曲线陡

适合场景

  • 中小团队快速搭建内部知识库
  • 需要多用户权限管理的场景
  • 希望一键部署、不想写代码的工程团队

2.3 Quivr — 从第二大脑到企业 AI 平台的转型

GitHub: QuivrHQ/quivr
Star 数: 约 37,000+(2025 年中)
技术栈: Python(FastAPI)+ Next.js + Supabase(PostgreSQL + pgvector)

核心定位

Quivr 在 2023 年以”Cloud Brain”概念爆红,是最早一批 RAG 知识库项目之一。2024 年经历了重大重构,从个人第二大脑转型为企业 AI 知识管理平台,新版本引入了 Brain 2.0(对话流程编排)和 Workflow 功能。

核心功能(新版 v0.0.x 系列)

  • Brain 系统:每个 Brain 是独立的知识库单元,可单独配置 LLM、向量化模型
  • Workflow:可视化构建 AI 处理流程,类似轻量 n8n
  • 多格式文档处理:PDF、DOCX、Notion、URLs、YouTube
  • Supabase 深度集成:使用 pgvector 作为向量存储,不依赖外部向量数据库
  • API 优先:提供完整 REST API,适合集成到现有系统

与 Obsidian 集成

通过 Quivr API 可以将 Obsidian 导出的 Markdown 文件批量上传,但无官方 Obsidian 插件支持。

优缺点

优点

  • Supabase 集成使部署相对简单(有 Supabase 托管方案)
  • 企业功能完善,商业支持(Quivr 公司提供云服务)
  • pgvector 方案消除独立向量数据库的运维成本

缺点

  • 2024 年重构导致文档混乱,新旧版本 API 不兼容
  • 个人场景功能过于复杂
  • 社区活跃度随商业化转型有所下降
  • 自托管需要完整的 Supabase 栈,部署复杂

适合场景

  • 已使用 Supabase 的团队
  • 需要商业支持和 SLA 的企业
  • 构建面向最终用户的 AI 产品(B2B 场景)

2.4 Reor — 完全本地的 AI 笔记应用

GitHub: reorproject/reor
Star 数: 约 9,000+(2025 年中)
最新版: v0.2.x 系列
技术栈: TypeScript + Electron + React + Transformers.js(本地嵌入)+ SQLite

核心定位

Reor 是 Obsidian 的竞争产品而非插件,定位”私密 AI 笔记应用”。它将 AI 能力完全内置到桌面应用中,所有计算(包括向量嵌入)均在本地完成,无需任何云服务。

核心功能

  • 本地语义搜索:使用 Transformers.js 在本地运行嵌入模型(完全离线)
  • 自动关联笔记:类似 Smart Connections,自动发现相关笔记
  • 本地 LLM 对话:集成 Ollama,在笔记界面直接与本地 LLM 对话
  • 类 Obsidian UI:左侧文件树 + 中央编辑器 + 右侧 AI 面板
  • 无服务器依赖:完全 Electron 应用,数据存储在本地文件系统

优缺点

优点

  • 最高数据隐私,全程离线(嵌入 + LLM 均本地)
  • 安装即用,无配置
  • 对极度重视隐私的用户是不二选择

缺点

  • 功能相对简单,Markdown 编辑能力不如 Obsidian
  • 社区和插件生态极小
  • 无移动端,无多设备同步
  • 本地嵌入模型(Transformers.js)质量不如 OpenAI text-embedding-3

适合场景

  • 对数据隐私要求极高的研究人员、律师、医疗从业者
  • 网络环境受限(无法访问云 API)的场景
  • 想用最简单方式体验本地 AI 笔记的用户

3. Obsidian 生态 AI 插件

Obsidian 作为知识库管理的主流工具(2024 年用户超 200 万),已形成完善的 AI 插件生态。以下是核心插件详解。

3.1 Smart Connections — 最受欢迎的 AI 语义插件

GitHub: brianpetro/obsidian-smart-connections
Star 数: 约 4,500+
Obsidian 下载量: 200,000+(Community Plugins 下载量最高的 AI 类插件)

核心功能

  • 语义相似笔记:在右侧面板自动显示与当前笔记语义相关的笔记列表
  • Smart Chat:内置对话界面,上下文包含整个 Vault 的知识
  • 多嵌入模型:支持 OpenAI、本地 Transformers.js(完全离线)
  • 增量索引:仅对修改的文件重新嵌入,效率高
  • Source 标注:回答时明确标注来源笔记

使用体验

Smart Connections 是最轻量的 AI 知识库接入方式——无需部署任何服务,安装插件、配置 API Key 即可使用。对于已有 Obsidian 的用户,这是进入 AI 知识库的最低门槛路径。


3.2 Obsidian Copilot

GitHub: logancyang/obsidian-copilot
Star 数: 约 5,000+

核心功能

  • 多 LLM 支持:OpenAI、Azure、Claude、Gemini、Ollama 等
  • Vault QA 模式:对整个 Vault 进行向量化并回答问题
  • Chat 模式:带上下文的对话
  • 自定义 Prompt:内置多种对话模板

与 Smart Connections 相比,Copilot 更像一个对话界面,而 Smart Connections 更注重自动关联发现


3.3 Obsidian Local REST API — 外部集成的关键桥梁

GitHub: coddingtonbear/obsidian-local-rest-api
Star 数: 约 2,000+

这个插件本身不提供 AI 功能,但它是将外部系统与 Obsidian 打通的关键

  • 暴露 REST API,允许外部程序读取/写入/搜索 Obsidian 笔记
  • Khoj、n8n、自定义脚本均通过此 API 与 Obsidian 交互
  • 支持 HTTPS(自签名证书),支持 Token 认证

典型用途:n8n 工作流从 Obsidian 拉取笔记 → 送入 LLM 处理 → 结果写回 Obsidian。


3.4 Text Generator

GitHub: nhaouari/obsidian-textgenerator-plugin
Star 数: 约 2,000+

侧重内容生成而非知识检索:

  • 光标位置触发 AI 续写、扩写、摘要
  • 自定义 Prompt 模板
  • 支持 Handlebars 模板语法,高度可配置

3.5 Obsidian AI 插件对比表

插件核心能力需要 API Key支持本地 LLM学习曲线最适合场景
Smart Connections语义相似笔记 + ChatOpenAI / 本地可选✅ Transformers.js极低笔记关联发现
Obsidian Copilot多 LLM 对话 + Vault QA必须✅ Ollama问答 + 写作辅助
Text GeneratorAI 写作生成必须内容创作
Local REST API外部集成桥梁无需-低(配置)系统集成

4. 自动化框架

4.1 n8n — 工程师首选的可视化工作流引擎

GitHub: n8n-io/n8n
Star 数: 约 55,000+(2025 年中,增速极快)
技术栈: TypeScript + Vue.js + SQLite/PostgreSQL
最新版: v1.x 系列,2024 年推出 AI Agent 节点

n8n 在知识库场景的价值

n8n 不是知识库工具,但它是构建知识摄取自动化管道的利器:

典型知识摄取流水线示例:
[触发器: 新 PDF 上传到 Google Drive]
       ↓
[n8n: 下载文件 → 文本提取]
       ↓
[n8n: 调用 OpenAI Embeddings API]
       ↓
[n8n: 写入 Qdrant 向量库]
       ↓
[n8n: 通过 Obsidian Local REST API 写入笔记]
       ↓
[n8n: 发送 Slack 通知]

AI Agent 节点(2024 年新增)

n8n v1.x 引入了专门的 AI 节点:

  • AI Agent 节点:可配置工具(HTTP 请求、代码执行、向量搜索)的自主 Agent
  • 向量存储节点:内置 Pinecone、Qdrant、Supabase Vector 连接器
  • LLM Chain 节点:支持 OpenAI、Anthropic、Azure 等
  • Document Loader 节点:PDF、DOCX、HTML 等格式解析

为什么工程师选 n8n 而非 Zapier/Make

对比项n8nZapierMake
自托管✅ 完全支持❌ 仅云端有限
代码节点✅ JS/Python有限有限
AI 专用节点✅ 完整生态基础基础
数据隐私✅ 本地处理❌ 云端处理部分
定价开源免费按任务收费按操作收费
向量数据库集成✅ 原生❌ 无❌ 无

4.2 Fabric — AI 处理 Pattern 框架

GitHub: danielmiessler/fabric
Star 数: 约 29,000+(2025 年中)
技术栈: Go(主程序)+ Markdown(Pattern 定义)
作者: Daniel Miessler(安全研究员)

核心理念

Fabric 的理念是将 AI 处理任务拆解为可复用的”Pattern”(本质是精心设计的 System Prompt + 工作流)。与图形化工具不同,Fabric 是命令行驱动的,适合习惯终端的工程师。

Pattern 示例(与知识库相关)

# 从 YouTube 视频提取关键见解
fabric --youtube https://youtu.be/xxx --pattern extract_wisdom
 
# 总结长文档
cat research_paper.pdf | fabric --pattern summarize
 
# 提取文章中的行动项
cat article.md | fabric --pattern extract_action_items
 
# 生成 Obsidian 友好的笔记格式
cat transcript.txt | fabric --pattern create_markmap | pbcopy

内置知识库相关 Pattern

  • extract_wisdom:从内容中提取见解、引用、习惯
  • summarize:多层次摘要
  • create_markmap:生成思维导图
  • explain_code:代码解释
  • write_essay:基于输入生成文章
  • analyze_paper:学术论文分析

与知识库集成

Fabric 最适合作为知识摄取的预处理层

  • 处理完的内容通过管道输出为 Markdown
  • 直接写入 Obsidian Vault 目录
  • 配合 n8n 作为文档处理节点

5. RAG 框架层

RAG(Retrieval-Augmented Generation)框架是构建定制知识库系统的编程工具。以下对比三个主流框架。

5.1 LlamaIndex — RAG 专项框架

GitHub: run-llama/llama_index
Star 数: 约 40,000+(2025 年中)
技术栈: Python
最新版: v0.10.x 系列,2024 年完成核心 API 重构

核心优势

  • RAG 原语最丰富:提供 Nodes、Indexes、Retrievers、QueryEngines、Response Synthesizers 等精细化抽象
  • 多索引类型:向量索引、关键词索引、知识图谱索引、摘要索引
  • 高级 RAG 技术:HyDE、BM25 混合检索、句子窗口检索、自查询检索
  • 多文档处理器:100+ 文档加载器(PDF、DOCX、Notion、Confluence、Slack 等)
  • Agent 框架:ReAct Agent、OpenAI Function Agent

代码示例(构建简单 RAG)

from llama_index.core import VectorStoreIndex, SimpleDirectoryReader
from llama_index.vector_stores.qdrant import QdrantVectorStore
import qdrant_client
 
# 加载文档
documents = SimpleDirectoryReader("./obsidian_vault").load_data()
 
# 构建索引(使用 Qdrant 存储)
client = qdrant_client.QdrantClient(":memory:")
vector_store = QdrantVectorStore(client=client, collection_name="notes")
index = VectorStoreIndex.from_documents(documents, vector_store=vector_store)
 
# 查询
query_engine = index.as_query_engine()
response = query_engine.query("什么是 Zettlekasten 方法?")

5.2 LangChain — 通用 LLM 编排框架

GitHub: langchain-ai/langchain
Star 数: 约 97,000+(最多 Star 的 LLM 框架)
技术栈: Python / TypeScript

与 LlamaIndex 的核心区别

LangChain 的定位更广,是通用 LLM 应用编排框架,RAG 只是其中一个场景。

对比项LlamaIndexLangChain
专注领域RAG / 知识检索通用 LLM 应用
RAG 能力★★★★★(更丰富的索引类型)★★★★
Agent 能力★★★★★★★★★
学习曲线中等较陡
文档质量★★★★★★★★
社区活跃度极高极高
适合场景知识库/文档问答复杂 Agent/工作流

选型建议:构建知识库类应用优先用 LlamaIndex;构建复杂 Agent 或需要大量 Tool Calling 的应用考虑 LangChain


5.3 Haystack — 企业级 NLP/RAG 框架

GitHub: deepset-ai/haystack
Star 数: 约 18,000+
技术栈: Python
公司背景: deepset.ai(德国 AI 公司)

核心特点

  • Pipeline 架构:基于 DAG(有向无环图)的处理管道,每个组件高度解耦
  • 企业级功能:完整的评估框架(Retrieval/Generation 评估指标)
  • Haystack 2.0:2024 年重构版本,API 更清晰
  • 深度定制:每个组件均可替换,适合复杂定制需求

适合场景:需要严格评估和优化 RAG 质量的企业,或需要构建非标准流程(如多跳问答、对话式搜索)的场景。


5.4 RAG 框架选型对比

框架Star专注上手难度RAG 能力Agent推荐指数
LlamaIndex40k+RAG★★★★★★★★★★★★知识库首选
LangChain97k+通用★★★★★★★★★★★复杂场景
Haystack18k+企业 NLP★★★★★★★★★企业评估

6. 向量数据库选型

向量数据库是 RAG 系统的存储核心。以下对主流选项进行完整对比。

6.1 完整对比表

数据库Stars语言本地部署性能Python API托管云服务许可证
Chroma16k+Python✅ 极简中等(小规模)★★★★★有限Apache 2.0
Qdrant22k+Rust✅ Docker 一键★★★★★★★★★★✅ cloud.qdrant.ioApache 2.0
Weaviate12k+Go✅ Docker★★★★★★★★✅ weaviate.ioBSD-3
FAISS32k+C++✅ pip install★★★★★(批量)★★★❌ 无托管MIT
LanceDB6k+Rust✅ pip install★★★★★(多模态)★★★★✅ LanceDB CloudApache 2.0
Milvus32k+Go/C++✅ Docker★★★★★★★★★✅ Zilliz CloudApache 2.0
pgvector14k+C(PG扩展)✅ PostgreSQL扩展★★★(已有PG场景)★★★★✅ Supabase等PostgreSQL License

6.2 详细说明

Chroma — 最适合快速原型

import chromadb
client = chromadb.Client()  # 内存模式,零配置
# 或持久化:chromadb.PersistentClient(path="./db")
collection = client.create_collection("my_notes")
collection.add(documents=["笔记内容..."], ids=["note1"])
  • 最大优点:Python 原生,pip install chromadb 即可,API 最简洁
  • 主要缺点:大规模(>100万向量)性能不足;持久化不够稳定
  • 推荐用途:快速原型、个人项目、学习 RAG 概念

Qdrant — 综合能力最强

Qdrant 是当前综合评分最高的向量数据库:

  • Rust 实现,性能极高(毫秒级延迟,百万级向量)
  • 丰富的过滤功能(元数据过滤 + 向量搜索组合)
  • 支持 Sparse Vectors(BM25)和 Dense Vectors 混合搜索
  • 官方 Docker 镜像极为简洁:docker run -p 6333:6333 qdrant/qdrant

推荐用途:生产环境知识库、需要精确过滤的场景

FAISS — 性能最极致的本地库

Facebook AI Research 出品,不是数据库而是纯索引库:

  • 超高性能批量检索(亿级向量)
  • 无持久化服务,纯 Python/C++ 库
  • 无 HTTP API,只能在同一进程使用

推荐用途:离线批量处理、性能要求极高且无需持久化服务的场景

LanceDB — 新秀,多模态友好

2023 年出现的新项目,技术架构有别于传统向量数据库:

  • 基于 Lance 列存格式,天然支持多模态(图片、音频、文本向量混合)
  • 无服务器模式(文件即数据库),适合边缘部署
  • AnythingLLM 默认使用 LanceDB

推荐用途:多模态知识库、嵌入式/边缘部署场景

pgvector — 已有 PostgreSQL 时的自然选择

如果系统已经使用 PostgreSQL,pgvector 是最自然的添加向量能力的方式:

  • 无需额外服务,向量搜索与关系查询在同一数据库
  • Supabase 默认集成,Quivr 的存储方案
  • 向量搜索性能不如专用数据库,但对中小规模(<100万向量)足够用

7. AI 记忆层

RAG 解决”模型不认识文档”的问题,但还有另一个问题:模型不记得之前的对话。AI 记忆层专门解决跨会话、跨对话的记忆持久化。

7.1 Mem0 — 专为 AI 设计的记忆层

GitHub: mem0ai/mem0(原名 EmbedChain)
Star 数: 约 26,000+(2025 年中,增速极快)
技术栈: Python
存储支持: Qdrant / Chroma / PostgreSQL(pgvector)/ Redis

核心概念

Mem0 将记忆分为三层:

  1. User Memory:用户偏好、背景信息(“用户更喜欢 Python 而非 JavaScript”)
  2. Session Memory:当前会话上下文
  3. Agent Memory:Agent 执行过程中积累的知识
from mem0 import Memory
 
m = Memory()
 
# 添加记忆
m.add("用户偏好使用 vim 编辑器,不喜欢 IDE", user_id="alice")
m.add("用户正在做的项目是 Android 性能分析工具", user_id="alice")
 
# 检索相关记忆
memories = m.search("编辑器推荐", user_id="alice")
# 返回:vim 相关的记忆

与 RAG 的关系

RAG 和 Mem0 互补而非竞争:

  • RAG:让模型访问外部知识文档(“我的文档里有什么”)
  • Mem0:让模型记住关于用户/对话的动态信息(“我了解用户什么”)

完整 AI 知识库 = 静态文档 RAG + 动态用户记忆 Mem0


7.2 Zep — 对话记忆专项方案

GitHub: getzep/zep
Star 数: 约 3,500+
技术栈: Go(服务端)+ PostgreSQL

核心功能

  • 自动摘要:长对话自动滚动摘要,防止上下文溢出
  • 对话向量化:对话历史自动向量化,支持语义搜索
  • 实体提取:从对话中提取命名实体(人名、地点、概念)
  • Session 管理:多用户多会话管理

Zep vs Mem0

对比项Mem0Zep
专注方向用户/Agent 长期记忆对话历史管理
存储灵活性多向量库可选主要 PostgreSQL
使用场景个性化 AI 助手对话式 AI 应用
部署难度极低(pip)中等(独立服务)

8. 推荐技术栈组合

8.1 个人工程师(简单上手)

推荐方案:Khoj + Obsidian

Obsidian(笔记管理)
    ↓ 官方插件同步
Khoj(AI 知识库引擎)
    ├── Ollama(本地 LLM,Llama3/Mistral)
    └── SQLite(轻量存储)

理由

  • Khoj 对 Obsidian 集成支持最好,有官方插件
  • 一个 Docker Compose 文件即可启动(khoj-ai/khoj 仓库有现成配置)
  • 支持离线(Ollama)和在线(OpenAI)两种模式灵活切换
  • 笔记在 Obsidian 编辑,AI 能力由 Khoj 提供,职责分离清晰

安装成本:约 30 分钟,Docker + Obsidian 插件安装


8.2 工程团队(生产级)

推荐方案:AnythingLLM + Qdrant + n8n

数据摄取层:n8n
    ├── 触发器:文件上传/Slack/Email
    ├── 文档解析:PDF/DOCX/Notion
    └── 向量化:OpenAI Embeddings API
         ↓
存储层:Qdrant(Docker)
         ↓
应用层:AnythingLLM
    ├── 多用户权限管理
    ├── 工作区隔离(按团队/项目)
    └── REST API(供其他系统调用)

理由

  • AnythingLLM 提供完整 Web UI,非技术团队成员可直接使用
  • n8n 负责自动化知识摄取(无需手动上传文档)
  • Qdrant 在生产环境中性能稳定,Rust 实现低内存占用
  • 三个组件均可 Docker 部署,运维成本可接受

部署成本:约 2-4 小时,需要基本的 Docker Compose 知识


8.3 完全本地(数据隐私优先)

推荐方案:Reor / Khoj(自托管)+ Ollama + ChromaDB

笔记/文档
    ↓
Reor(桌面应用,完全离线)
    ├── Transformers.js(本地嵌入,无需 API)
    └── Ollama(本地 LLM:Llama3、Mistral、Phi-3)

或(需要更好质量 + 更多数据格式):

Khoj(自托管)
    ├── Ollama(本地 LLM)
    ├── fastembed(本地嵌入)
    └── SQLite(本地存储)

理由

  • Reor 是最简单的全本地方案,安装即用,无任何网络请求
  • 如果笔记量大或需要更多格式支持,Khoj 自托管 + 本地模型是更好选择
  • Ollama 让本地 LLM 部署极其简便(一条命令)
  • 不向任何云服务发送数据

注意事项:本地 LLM(7B/13B 参数)在回答质量上仍弱于 GPT-4/Claude;嵌入质量也略低于 OpenAI text-embedding-3,这是隐私与质量之间的权衡。


8.4 技术构建(开发者定制)

推荐方案:LlamaIndex + Qdrant + Mem0 + FastAPI

# 架构示意
from llama_index.core import VectorStoreIndex
from llama_index.vector_stores.qdrant import QdrantVectorStore
from mem0 import Memory
 
# RAG:文档检索
index = VectorStoreIndex.from_documents(docs, vector_store=qdrant_store)
query_engine = index.as_query_engine()
 
# 记忆:用户偏好
memory = Memory(config={"vector_store": {"provider": "qdrant"}})
 
# 查询时组合两者
def query_with_memory(question: str, user_id: str):
    user_memories = memory.search(question, user_id=user_id)
    context = f"用户背景:{user_memories}\n\n"
    return query_engine.query(context + question)

理由

  • LlamaIndex 提供最丰富的 RAG 原语(多索引类型、高级检索策略)
  • Qdrant 提供生产级向量存储(同时用于 RAG 索引和 Mem0)
  • Mem0 添加跨会话用户记忆,让 AI 更”了解”用户
  • FastAPI 暴露 API,可集成到任意前端

适合:需要高度定制的团队,或构建面向最终用户的 AI 产品


9. 快速上手路径

9.1 30 分钟搭建最小可用版本

选择 AnythingLLM 桌面版(对非 Docker 用户最友好)

前置条件

  • macOS / Windows / Linux 桌面环境
  • OpenAI API Key(或本地 Ollama)

步骤

# Step 1: 下载 AnythingLLM 桌面版(约 5 分钟)
# 访问 https://anythingllm.com/download 下载对应平台安装包
# 安装后直接启动
 
# Step 2: 配置 LLM(约 2 分钟)
# 设置 → LLM 偏好 → 选择 OpenAI → 填入 API Key
# (或选择 Ollama,需提前安装 ollama + pull 模型)
 
# Step 3: 创建工作区(约 1 分钟)
# 首页 → 新建工作区 → 命名为"我的知识库"
 
# Step 4: 上传文档(约 5 分钟)
# 拖入 PDF/Markdown 文件 → 等待向量化完成
 
# Step 5: 开始对话(即时)
# 在聊天框提问,AI 会基于你的文档回答

总耗时:~15 分钟,含文档上传


9.2 进阶:基于 Khoj 搭建 Obsidian 集成

# Step 1: 安装 Docker(假设已安装)
 
# Step 2: 启动 Khoj
docker run -it -p 42110:42110 \
  -v ~/.khoj:/root/.khoj \
  ghcr.io/khoj-ai/khoj:latest
 
# Step 3: 安装 Obsidian 插件
# Obsidian → 设置 → 第三方插件 → 搜索 "Khoj" → 安装 → 启用
# 配置插件 → 填入 http://localhost:42110 → 填入 API Key
 
# Step 4: 初次同步
# Khoj → 设置 → 内容类型 → 本地文件 → 添加 Obsidian Vault 路径
# 点击"立即同步"
 
# Step 5: 开始使用
# Obsidian 侧边栏 → Khoj 图标 → 提问

9.3 进阶:n8n + Qdrant 自动化管道

# docker-compose.yml
version: '3.8'
services:
  qdrant:
    image: qdrant/qdrant:latest
    ports:
      - "6333:6333"
    volumes:
      - ./qdrant_storage:/qdrant/storage
 
  n8n:
    image: n8nio/n8n:latest
    ports:
      - "5678:5678"
    environment:
      - N8N_BASIC_AUTH_ACTIVE=true
      - N8N_BASIC_AUTH_USER=admin
      - N8N_BASIC_AUTH_PASSWORD=password
    volumes:
      - ./n8n_data:/home/node/.n8n
docker-compose up -d
# 访问 http://localhost:5678 配置工作流

10. 总结与选型建议

按使用场景快速选型

你的需求推荐方案入门难度
已有 Obsidian,想加 AISmart Connections 插件极低
想要完整 AI 第二大脑Khoj(自托管)
团队共享知识库AnythingLLM
完全本地,数据不出设备Reor / Khoj + Ollama
自动化知识摄取流程n8n
构建定制 RAG 应用LlamaIndex + Qdrant
CLI 驱动的 AI 内容处理Fabric
需要 AI 跨会话记忆Mem0

生态成熟度评估

★★★★★ 生产就绪   AnythingLLM、n8n、LlamaIndex、LangChain、Qdrant
★★★★  稳定可用   Khoj、Quivr、Chroma、FAISS、Smart Connections
★★★   快速迭代   Mem0、Fabric、LanceDB、Reor
★★    早期探索   Zep、pgvector(作为向量库)

2025 年趋势观察

  1. Agent 化:工具从”问答”进化到”自主执行任务”,AnythingLLM 的 Agent 节点、n8n 的 AI Agent 节点都是信号
  2. 本地化加速:Ollama 极大降低本地 LLM 门槛,Reor、Khoj 的本地模式越来越完善
  3. 多模态延伸:LanceDB 的多模态支持、知识库从纯文本扩展到图片/音频
  4. 记忆层崛起:Mem0 快速增长说明”有记忆的 AI”需求强烈
  5. RAG 质量提升:混合检索(稠密+稀疏)、重排序(Reranker)成为标配

参考资源

免责说明:Star 数量为 2025 年中期估计值,实际数字以 GitHub 实时显示为准。本文旨在提供技术选型参考,不构成任何商业建议。