gateway

gateway

快速、可靠的AI网关,支持1600+语言模型和50+AI防护措施。

MCP编程与开发开源
形态
MCP
传输协议
http
是否开源
GitHub Stars
★ 1.2w
收录来源
mcp-github

能力说明

Portkey AI Gateway是一个轻量级、开源且企业级的解决方案,允许您在2分钟内集成任何语言模型。它具有极低的延迟(<1ms)和小巧的体积(122kb),经过大量测试,每天处理超过100亿个令牌。该网关提供了自动重试、故障转移、负载均衡、条件路由等功能,确保您的AI应用稳定运行。此外,还支持多模态能力和代理工作流集成。

能力点

  • 集成1600+语言模型
  • 50+AI防护措施
  • 自动重试和故障转移
  • 负载均衡和条件路由
  • 多模态能力
  • 代理工作流集成

适用场景

快速集成多种语言模型提高AI应用的稳定性和可靠性实现多模态AI功能管理MCP服务器

接入方式

依赖:Node.jsnpm
npx @portkey-ai/gateway

以上信息由 AI 基于公开资料整理,可能存在偏差,以来源为准。

常见问题

如何快速开始使用?

运行 npx @portkey-ai/gateway 并按照提示操作。

支持哪些部署方式?

支持Docker、Node.js、Cloudflare Workers等多种部署方式。

相关 Skill