Skills

Skills

Nemo-Skills 是一个用于提升大型语言模型技能的项目。

Agent Skill编程与开发开源LLM模型训练模型评估合成数据生成
形态
Agent Skill
是否开源
GitHub Stars
★ 1.0k
收录来源
skill-github

能力说明

Nemo-Skills 提供了一系列管道来提升大型语言模型(LLM)的技能。支持从合成数据生成、模型训练到在各种基准上进行评估的所有需求。可以在本地工作站开始开发,并通过一行代码更改迁移到大规模 Slurm 集群。该能力包括灵活的 LLM 推理、模型评估和模型训练等功能,适合需要提升 LLM 性能的开发者。

能力点

  • 无缝切换 API 提供商和本地服务器
  • 支持多种模型托管方式
  • 扩展 SDG 任务到数千个 GPU
  • 多领域模型评估
  • 并行化评估
  • 使用 NeMo-RL 或 verl 训练模型

适用场景

提升 LLM 的数学推理能力改进 LLM 的代码生成质量增强 LLM 的科学知识理解优化 LLM 的指令跟随能力

接入方式

依赖:Node 环境API Key
请参考官方文档进行安装和配置:https://github.com/NVIDIA-NeMo/Skills

以上信息由 AI 基于公开资料整理,可能存在偏差,以来源为准。

常见问题

如何开始使用 Nemo-Skills?

请访问 GitHub 仓库并按照 README 中的步骤进行安装和配置。

Nemo-Skills 支持哪些模型托管方式?

支持 TensorRT-LLM、vLLM、sglang 和 Megatron。

相关 Skill