简介
PrivateGPT 是一个面向生产的私有化生成式 AI 框架，旨在在本地或私有云中安全运行文档检索、RAG（检索增强生成）与对话 API，保证数据不出环（100% 私有）。项目提供完整的 API、Gradio UI 与部署脚本，适合对隐私和合规有高要求的场景。
主要特性
- 私有化优先：设计为在离线或内网环境中运行，确保数据不外泄。
- 完整 RAG 管道：文档摄取、分片、嵌入生成与向量检索的端到端实现。
- 多后端支持：兼容 LlamaIndex、Qdrant、Ollama 等常见组件与模型运行时。
- 部署友好：提供 Docker Compose、云与本地部署配置与示例。
使用场景
- 企业内网中的文档问答与知识库检索。
- 受监管行业（医疗、法律）中需要严格数据隔离的 AI 应用。
- 离线环境或对外网访问受限的研究/生产部署。
技术特点
- 基于 FastAPI 的 OpenAI 兼容 API 层，使用 LlamaIndex 作为 RAG 基础组件。
- 以 Python 为主，文档与前端（MDX/Gradio）提供良好使用示例与 UI。
- 使用 Apache-2.0 许可证，社区活跃，发行与贡献通道完备。