evals-skills

evals-skills

指导AI编码代理构建产品特定的AI评估。

Agent Skill编程与开发开源
形态
Agent Skill
是否开源
是
GitHub Stars
★ 1.2k
收录来源
skill-github

能力说明

evals-skills是一组技能,旨在帮助AI编码代理构建针对特定产品的AI评估。这些技能可以帮助避免常见的评估错误,并提供从数据审查到生成合成数据等多方面的支持。通过npx命令安装后,用户可以指定一个或多个技能来辅助完成评估工作。适合需要对AI模型进行详细测试和优化的开发者使用。

能力点

  • ▪路由至合适的评估技能
  • ▪审计评估管道并发现潜在问题
  • ▪智能选择样本进行错误分析
  • ▪生成多样化的合成测试输入
  • ▪设计基于LLM的主观质量评判器
  • ▪校准LLM评判器与人工标签

适用场景

AI模型性能评估错误模式识别合成数据生成评估检索增强生成(RAG)质量

接入方式

依赖:API KeyNode环境
使用npx命令安装:`npx skills add https://github.com/ai-evals-course/evals-skills` 或者单独安装某个技能:`npx skills add https://github.com/ai-evals-course/evals-skills --skill error-discovery`

以上信息由 AI 基于公开资料整理,可能存在偏差,以来源为准。

常见问题

如何开始使用这些技能?

首先运行`npx skills add https://github.com/ai-evals-course/evals-skills`安装所有技能,或者指定安装单个技能。

哪个技能最重要?

`error-discovery`技能最为关键,用于发现数据中的错误模式。

相关 Skill