关于 private-gpt
PrivateGPT 为使用本地模型的 AI 应用提供 API 服务层，接入兼容 OpenAI 接口的模型服务后，可处理文档问答、带出处的检索、工具调用和数据查询。内置工作台可用于上传文档、调试请求和演示，开发者也可以通过 API 构建自己的应用。
核心功能
- 导入文档并进行带引用来源的检索问答
- 接入自定义工具、MCP 服务和数据库
- 提供消息、流式输出与异步处理接口
- 通过工作台测试模型、文档检索和工具调用
适用场景
- 基于本地模型构建私有 AI 应用
- 进行内部演示、试用和文档问答测试
如何使用
- 先准备兼容 OpenAI 接口的模型服务，例如 Ollama
- 按官方安装指南配置模型地址，再启动服务
- 打开内置工作台测试，或通过 API 接入自己的应用
查看原始简介
Complete API layer for private AI applications on local models: RAG, skills, tools, MCP, text-to-sql, and more. Works with any OpenAI-compatible inference server.