LLM自动化评估服务是 root-signals 开发的 MCP 服务器:Scorable MCP Server是一个将Scorable评估器作为工具暴露给AI助手和代理的模型上下文协议服务器,。接入两步走:docker run -e SCORABLE_API_KEY=<your_key> -p 0.0.0.0:9090:9090 --name=rs-mcp -d ghcr.io/scorable/scorable-mcp:latest,再把下文配置粘进客户端 mcpServers 段重启即可。
它是干什么的
先把话说清楚:LLM自动化评估服务不是又一个大模型,而是一个标准的 MCP 服务器。装好之后,你的 AI 客户端多出一组新工具,模型可以按需调用。Scorable MCP Server是一个将Scorable评估器作为工具暴露给AI助手和代理的模型上下文协议服务器,用于评估响应质量
| 项目 | 数据 |
|---|---|
| 开发者 | root-signals |
| Star | 12 |
| 收藏 | 0 |
| 质量等级 | B |
| 平台分类 | 开发效率 |
| 部署标签 | 混合部署、LLM评估、自动化控制 |
| 仓库 | root-signals-mcp |
核心能力
- Exposes Scorable evaluators as MCP tools
- Implements SSE for network deployment
适合谁用
两类人最该装:一是天天在 Claude Desktop、Cursor 里写代码,想让 AI 直接帮你跑命令、改仓库、读文件的人;二是已经在用 MCP 生态、想按需拼装能力的折腾型用户。反过来,如果你只需要偶尔手动用它背后的服务,直接开网页就行,不必上 MCP。
完整安装配置步骤
动手前确认环境齐了:
- Docker 环境(
docker ps正常返回即可)。 - 一个支持 MCP 的客户端:Claude Desktop、Cursor、Cline、Windsurf 任选其一。
- 对应平台的 API Key(第 2 步要用)。
第 1 步:安装LLM自动化评估服务
终端里任选一条(不同安装方式,效果等价):
docker run -e SCORABLE_API_KEY=<your_key> -p 0.0.0.0:9090:9090 --name=rs-mcp -d ghcr.io/scorable/scorable-mcp:latest第 2 步:按官方说明写入配置
LLM自动化评估服务的 README 没给标准 mcpServers JSON,配置入口见 官方文档 的 Usage/Configuration 章节。原则不变:客户端配置文件里加 mcpServers 条目,重启生效。
第 3 步:重启并验证
完全退出客户端再打开(是托盘里真正退出,不是关窗口)。工具列表里出现LLM自动化评估服务的工具即接入成功;调用报错的话,先查下面的坑点清单。
容易踩的坑
- Key 填了但没生效:多半填在了
args而不是env段。客户端日志里看到Environment variable SCORABLE_API_KEY not set就是这个原因。 - 改了配置没反应:客户端只重启了窗口没退进程。macOS 按 Cmd+Q,Windows 检查托盘。
- JSON 报错打不开客户端:多半是最后多个逗号。粘进任何 JSON 校验器里查一遍再保存。
常见问题
LLM自动化评估服务免费吗?
代码在 GitHub(https://github.com/root-signals/root-signals-mcp)开放获取。个别功能依赖第三方服务时费用另算,看仓库 LICENSE 和定价页。
LLM自动化评估服务能用在 Cursor / Cline 吗?
能。MCP 是通用协议,同一份 mcpServers 配置在这些客户端之间基本通用,只是配置文件位置不同。
API Key 从哪拿?
去对应平台的开发者控制台申请,填进配置的 env 段。Key 泄露记得直接去平台吊销,别只改本地文件。
需要外网或代理吗?
拉包和调用官方 API 需要能访问 GitHub 与对应服务域名,内网环境先测 git ls-remote 和接口连通性。
