自托管的 AI 聊天平台,将主流 AI 提供商统一在单一、注重隐私的界面中。
LibreChat 是一个以隐私为核心的自托管 AI 聊天平台,目前版本迭代至 v0.8.5,采用 MIT 协议开源。项目基于 TypeScript 与 React 构建,底层通过 npm workspaces 和 Turborepo 管理前后端分离的 Monorepo 架构。
模型接入#
原生支持 OpenAI、Claude (Anthropic)、Gemini (Google)、Azure OpenAI、AWS Bedrock、Vertex AI 等主流商业 API;兼容 Ollama、Groq、Cohere、Mistral、Deepseek、Qwen 等本地及第三方模型;支持任何 OpenAI API 格式的自定义端点,无需代理。
AI Agents 与工具协议#
提供无代码自定义助手及 Agent Marketplace,支持协作共享;原生集成 Model Context Protocol (MCP) 工具协议(已列入 MCP 官方客户端清单);兼容 OpenAI Actions、OpenAPI Actions、Functions 及 LangChain。
代码沙箱执行#
内置完全隔离的沙箱环境,支持 Python、Node.js (JS/TS)、Go、C/C++、Java、PHP、Rust、Fortran,并支持文件无缝上传、处理与下载。
联网搜索与 RAG#
集成互联网搜索以增强上下文,支持爬取与重排序(如 Jina Reranking);内置 RAG 能力,结合 PostgreSQL + pgvector 实现文档对话。
多媒体与生成式 UI#
支持文本/图像转图像(DALL-E 3/2、Stable Diffusion、Flux、GPT-Image-1);支持 Code Artifacts(在聊天中渲染 React、HTML 和 Mermaid 图表);支持图像/文件上传的多模态分析(Claude 3、GPT-4o、o1、Llama-Vision、Gemini 等)。
语音交互#
集成 STT(语音转文本)与 TTS(文本转语音),支持 OpenAI、Azure OpenAI、ElevenLabs,可自动发送和播放音频。
对话管理#
支持创建/共享 Presets;会话内动态切换端点;支持消息编辑、重提交、分支与 Fork;支持多格式导入(LibreChat、ChatGPT、Chatbot UI)与导出(截图、MD、TXT、JSON)。
推理与高可用#
针对推理模型(如 DeepSeek-R1)的动态 Reasoning UI;断线可恢复流式传输与多标签页同步;支持 35+ 种语言界面。
企业级功能#
OAuth2、LDAP、Email 多方式认证;内置审核与 Token 使用追踪;消息/对话全局搜索;借助 Redis 实现多端水平扩展。
部署方式#
- Docker Compose(推荐):一键拉起 LibreChat 主服务、MongoDB (8.0.20)、MeiliSearch (v1.35.1)、pgVector (0.8.0-pg15) 及 RAG API 服务
- 云平台:Railway、Zeabur、Sealos 一键部署
- Kubernetes:内置 Helm Chart 支持
- 本地开发:
npm install && npm run build && npm run backend && npm run frontend:dev