- 地区
- 海外
- 定价
- 免费
- 是否开源
- 是
- GitHub Stars
- ★ 1.0w
- 收录来源
- GitHub
- 收录于
- 2026-06-05
- 最近确认可用
- 2026-06-05
详细介绍
Petals 是一个分布式大语言模型运行平台，支持在本地或云端高效运行和微调。它通过BitTorrent式的分布式网络来加速大型语言模型的推理和微调过程，最高可达10倍速度提升。用户可以通过简单的Python代码连接到分布式网络并使用各种预训练模型进行文本生成或微调任务。
核心功能
- ▪分布式运行大型语言模型
- ▪支持多种预训练模型
- ▪本地或云端高效运行
- ▪推理和微调速度大幅提升
适用场景
文本生成与编辑模型微调科研实验教育演示
优点
- ＋易于安装和使用
- ＋显著提高处理速度
- ＋支持多种模型选择
局限 / 注意
- －依赖于公共网络资源
- －敏感数据需谨慎处理
适合谁
研究人员开发者教育工作者AI爱好者
以上介绍由 AI 基于公开资料整理，可能存在偏差，以官网为准。
常见问题
如何开始使用Petals？
安装库后，通过Python代码连接到分布式网络并加载所需模型即可。
支持哪些模型？
支持Llama、Mixtral、Falcon和BLOOM等大型语言模型。
如何确保数据隐私？
对于敏感数据，建议设置私有网络或参考官方隐私指南。
相似智能体
信息有误？欢迎在 关于页 联系我们更正。