- 形态
- MCP
- 传输协议
- http
- 是否开源
- 是
- GitHub Stars
- ★ 4.7w
- 收录来源
- mcp-github
能力说明
LocalAI 是一个开源的 AI 引擎,可以在任何硬件上运行各种模型,包括 LLMs、视觉、语音、图像和视频。它不需要 GPU,并且每个后端都是独立的,按需加载。LocalAI 提供了 OpenAI、Anthropic 和 ElevenLabs 的 API 兼容性,并支持多用户认证和角色访问控制。此外,它还内置了 AI 代理,支持工具使用、RAG、MCP 和技能。LocalAI 适合需要在本地运行 AI 模型的开发者和企业。
能力点
- ▪支持多种模型类型
- ▪无需 GPU 运行
- ▪按需加载后端
- ▪OpenAI API 兼容
- ▪多用户认证
- ▪内置 AI 代理
适用场景
本地运行 AI 模型多模态 AI 应用开发多用户环境下的 AI 服务私有数据处理
接入方式
依赖:DockerAPI Key
docker run -ti --name local-ai -p 8080:8080 localai/localai:latest
以上信息由 AI 基于公开资料整理,可能存在偏差,以来源为准。
常见问题
LocalAI 支持哪些硬件?
支持 NVIDIA, AMD, Intel, Apple Silicon, Vulkan, 或 CPU-only。
如何安装 LocalAI?
可以使用 Docker 安装,具体命令见文档。
相关 Skill
gemini-cli
Gemini CLI 是一个开源的 AI 代理,将 Gemini 的强大功能直接带入终端。
MCP
ruflo
Ruflo 是一个为 Claude Code 和 Codex 设计的智能代理元框架。
MCP
context7
为 LLM 和 AI 代码编辑器提供最新的代码文档。
MCP
mcp-adapter
将WordPress插件、主题和核心功能转换为MCP工具,供AI代理调用。
MCP
MemOS
为LLM和AI代理提供持久化记忆、混合检索和跨任务技能复用的自进化内存操作系统。
MCPmemoryLLM
claude-context
为 Claude Code 提供代码搜索能力,使整个代码库成为上下文。
MCP