AnythingLLM 是一个功能强大的全栈应用程序,支持使用商业或开源的大语言模型和向量数据库来构建私有化的 ChatGPT。它采用工作区(Workspace)的概念来组织和管理文档,每个工作区相互独立,确保上下文的清晰性。
该项目具有丰富的功能特性,包括:多模态支持、无代码 AI Agent 构建器、多用户权限管理、网页嵌入式聊天组件、多种文档格式支持(PDF、TXT、DOCX 等)以及简洁的拖放式用户界面。它支持云端部署,并提供完整的开发者 API 用于自定义集成。
在技术支持方面,AnythingLLM 兼容众多主流的大语言模型,如 OpenAI、Azure OpenAI、Google Gemini Pro、Anthropic 等,以及开源模型如 Llama、Mistral。同时支持多种向量数据库(如 LanceDB、PGVector、Pinecone 等)和嵌入模型。此外,它还提供了语音转文本和文本转语音功能。
项目采用模块化架构,主要包含前端(ViteJS + React)、后端服务器(NodeJS Express)、文档处理器、Docker 部署配置、网页组件和浏览器扩展等模块。支持多种部署方式,包括 Docker、AWS、GCP、Digital Ocean 等平台,并提供详细的开发环境搭建指南。
社区生态方面,有多个第三方集成应用,如 Midori AI 子系统管理器、Coolify 一键部署工具和 Microsoft Word 插件等。项目由 Mintplex Labs 开发维护,包含遥测功能用于收集匿名使用数据。