private-gpt

private-gpt

为本地模型提供完整的API层,支持RAG、技能、工具等。

MCP编程与开发开源
形态
MCP
传输协议
http
是否开源
GitHub Stars
★ 5.7w
收录来源
mcp-github

能力说明

PrivateGPT是一个开源的API层,可以将本地模型转化为生产级AI应用。它支持多种功能,如标准消息API、文件和工件摄取、检索引用、内置工具(如网络搜索、代码执行)、自定义工具和MCP连接器、数据库和CSV的结构化访问以及嵌入和编排。通过连接任何OpenAI兼容的推理服务器,PrivateGPT使开发者能够构建私有的AI产品,而无需从头开始重建后端基础组件。适合需要在本地运行AI应用的企业和个人。

能力点

  • 标准消息API
  • 文件和工件摄取
  • 检索引用
  • 内置工具(如网络搜索)
  • 自定义工具和MCP连接器
  • 数据库和CSV结构化访问

适用场景

本地AI应用开发企业内部AI平台私有数据处理代码执行和调试

接入方式

依赖:OpenAI兼容的LLM服务器Node环境
brew tap zylon-ai/tap && brew install private-gpt 或者使用curl脚本安装

以上信息由 AI 基于公开资料整理,可能存在偏差,以来源为准。

常见问题

PrivateGPT是否运行模型?

不,它连接到任何OpenAI兼容的推理服务器。

如何启动PrivateGPT?

设置环境变量并运行private-gpt serve命令。

相关 Skill