你有没有想过,把公司内部文档、技术手册、学习笔记全部喂给一个 AI,让它变成一个「什么都知道」的私有知识助手?不用联网、不用担心数据泄露,所有信息都在你自己的服务器上。这就是 RAG(检索增强生成)技术的魅力。而 AnythingLLM 是目前最简单易用的私有知识库搭建方案之一,用 Docker 部署只需要几分钟。1. AnythingLLM 是什么AnythingLLM是一个开源的全功能 AI 文档聊天助手。它的核心能力是:把你上传的文档(PDF、Word、TXT、Markdown 等)切分成小段,用向量数据库存储,然后在你提问时自动检索相关内容,结合大语言模型生成回答。简单来说,它做了三件事:文档处理:把各种格式的文档解析、切分成小块向量存储:把文本块转成向量,存入数据库,方便语义检索智能问答:检索相关文本块,结合 LLM 生成准确的回答与直接把整本书扔给大模型相比,RAG 方案的优势是不占用上下文窗口、支持海量文档、回答有据可循。2. 系统要求配置项最低要求推荐配置内存(RAM)2 GB4 GB 及以上磁盘空间5 GB 可用20 GB 及以上CPU双核四核及以上操作系统Linux / macOS / WindowsUbuntu 22.04+Docker20.10+最新稳定版AnythingLLM 本身对硬件要求不高,但如果你打算在本地运行大模型(而非调用云端 API),则需要额外的 GPU 资源如果使用 OpenAI、DeepSeek 等云端 API,则不需要本地 GPU本文以 Ubuntu 系统 + Docker Compose 为例进行讲解3. 安装 Docker 和 Docker Compose如果你还没有安装 Docker,可以参考之前的文章完成安装。安装完成后确认版本:docker--versiondockercompose version确保docker命令不需要sudo就能执行。如果不行,把当前用户加入 docker 组: