LocalAI

LocalAI

LocalAI 是一个开源的 AI 引擎,支持在任何硬件上运行各种模型。

MCP编程与开发开源
形态
MCP
传输协议
http
是否开源
GitHub Stars
★ 4.7w
收录来源
mcp-github

能力说明

LocalAI 是一个开源的 AI 引擎,可以在任何硬件上运行各种模型,包括 LLMs、视觉、语音、图像和视频。它不需要 GPU,并且每个后端都是独立的,按需加载。LocalAI 提供了 OpenAI、Anthropic 和 ElevenLabs 的 API 兼容性,并支持多用户认证和角色访问控制。此外,它还内置了 AI 代理,支持工具使用、RAG、MCP 和技能。LocalAI 适合需要在本地运行 AI 模型的开发者和企业。

能力点

  • 支持多种模型类型
  • 无需 GPU 运行
  • 按需加载后端
  • OpenAI API 兼容
  • 多用户认证
  • 内置 AI 代理

适用场景

本地运行 AI 模型多模态 AI 应用开发多用户环境下的 AI 服务私有数据处理

接入方式

依赖:DockerAPI Key
docker run -ti --name local-ai -p 8080:8080 localai/localai:latest

以上信息由 AI 基于公开资料整理,可能存在偏差,以来源为准。

常见问题

LocalAI 支持哪些硬件?

支持 NVIDIA, AMD, Intel, Apple Silicon, Vulkan, 或 CPU-only。

如何安装 LocalAI?

可以使用 Docker 安装,具体命令见文档。

相关 Skill