AI万址

标签:LLM优化

包含标签「LLM优化」的全部资源

26 个结果

工具编排服务

基于MCP的工具编排器,通过层次化导航减少LLM上下文负载,支持100+工具的集成管理。

本地部署
工具编排
LLM优化
02025-12-04 00:00:00

CLI工具优化LLM上下文管理

通过UNIX哲学设计的CLI工具替代MCP协议,优化大型语言模型(LLM)的上下文管理,显著减少token消耗并提升模型性能。适用于需要高效上下文管理的LLM代理开发场景。

本地部署
上下文管理
LLM优化
02026-05-29 00:00:00

MCP服务器优化工具

一组专为大型语言模型优化的MCP服务器,结合了原子化工具和黑盒API的优点,提供高效、灵活且正确的服务。

本地部署
MCP服务器
LLM优化
02026-08-14 00:00:00

JSON转TOON代理

该服务将JSON数据转换为TOON格式,减少发送到LLM的令牌数量,从而加快响应速度并降低成本,同时保留重要信息。

本地部署
数据转换
LLM优化
02025-11-14 00:00:00

TOON序列化工具

JToon是一个用于Java的TOON格式序列化库,提供紧凑、人类可读的序列化格式,特别适用于LLM上下文,相比JSON可减少30-60%的token数量。

本地部署
LLM优化
序列化
02026-08-15 00:00:00

答案引擎优化服务器

AEO MCP Server是一个用于生成优化LLM消费的llms.txt和llms-full.txt文件的答案引擎优化服务器。

本地部署
LLM优化
答案引擎优化
02025-11-20 00:00:00

网页搜索MCP服务器

一个生产就绪的模型上下文协议(MCP)服务器,通过SearXNG提供网页搜索功能,专为与LLM代理无缝集成而设计,支持HTTP/SSE传输和LLM优化的响应格式。

本地部署
多引擎搜索
LLM优化
02025-10-16 00:00:00

高效数据编码服务器

用于在大型语言模型上下文窗口中高效编码数据的服务器,支持LEAN和TOON格式以减少JSON语法导致的令牌浪费。

本地部署
LLM优化
数据编码
02026-04-13 00:00:00

JinaAI搜索集成服务

一个基于Jina.ai搜索API的MCP服务器,为LLM提供高效、全面的网页搜索能力,优化检索干净且适合LLM的内容。

本地部署
网页搜索
LLM优化
02025-04-05 00:00:00

Git结构化分析工具

git-prism是一款为LLM代理优化的Git数据分析工具,提供结构化JSON输出以替代传统的人类可读差异显示,支持函数级粒度分析、导入跟踪、依赖变更、完整文件快照等功能。

本地部署
Git分析
LLM优化
02026-07-25 00:00:00

LLM上下文提炼服务

Middleman是一款企业级模型上下文协议(MCP)服务器,作为原始数据与昂贵LLM之间的信号过滤器,通过提炼和总结数据来显著降低API成本。

本地部署
LLM优化
上下文提炼
02026-03-30 00:00:00

LLM令牌成本计算器

用于估算使用多个MCP服务器时的LLM令牌成本,帮助优化配置以减少开销。

本地部署
成本估算
LLM优化
02026-02-03 00:00:00

LLM上下文优化工具

一个用于减少大型语言模型(LLM)上下文占用的工具,通过优化工具描述和调用方式提高效率。

本地部署
工具调用
LLM优化
02026-03-15 00:00:00

LLM上下文优化服务器

Context-Life是一款本地运行的MCP服务器,专注于优化大型语言模型(LLM)的上下文窗口使用,提供智能修剪、本地RAG检索、提示缓存和上下文健康监测等功能。

本地部署
上下文管理
LLM优化
02026-05-18 00:00:00

JSON转TOON转换服务

一个提供JSON数据与TOON格式双向转换的MCP服务器,专为LLM应用设计的令牌高效格式转换工具。

本地部署
LLM优化
数据格式转换
02025-12-04 00:00:00

LLM的GraphQL与REST对比工具

一个演示GraphQL和REST API在大型语言模型(LLMs)中使用的差异的工具,重点展示GraphQL在分层数据查询中减少令牌使用和API往返次数的优势。

本地部署
LLM优化
API比较
02025-11-26 00:00:00

提示词保存服务

一个将成功对话线程转换为可重用提示词模板的服务,用于提升LLM交互效率。

本地部署
提示词工程
LLM优化
02026-01-24 00:00:00

LLM令牌优化转换器

TONL-MCP Bridge是一款TypeScript库和CLI工具,用于将JSON/YAML数据转换为TONL格式,减少大型语言模型(LLM)的令牌使用,从而降低成本和提高性能。适用于日志处理、向量数据库、RAG系统等场景。

本地部署
令牌节省
LLM优化
02025-12-12 00:00:00

提示词优化服务

一个基于Google Gemini的大型语言模型提示词优化服务,提供高级提示工程支持和自动PDF资源管理。

本地部署
提示工程
LLM优化
02025-12-02 00:00:00

程序化工具调用SDK

通过代码生成和沙盒执行优化大语言模型工具调用流程,显著降低推理成本和延迟。

本地部署
代码生成
LLM优化
02025-12-03 00:00:00

智能模型路由服务

MCP Router是一个智能模型上下文协议路由器,用于Cursor IDE,能根据查询分析、复杂度和用户偏好策略自动选择最佳LLM模型。

本地部署
智能路由
LLM优化
02025-12-31 00:00:00

LLM优化路由服务器

DeepMyst MCP Server是一个智能LLM优化和路由服务器,为Claude Desktop和HTTP客户端提供令牌优化和智能模型路由功能,适用于需要高效LLM集成的场景。

本地部署
智能路由
LLM优化
02025-04-11 00:00:00

动态指令生成工具

通过上下文相关的动态指令生成解决LLM注意力分散问题,优化开发流程中指令的精准传递。

本地部署
开发工具
LLM优化
02025-12-03 00:00:00

LLM令牌压缩服务

tksq是一款通过多阶段管道压缩文本的LLM令牌压缩服务,可减少与大型语言模型(LLM)交互时的令牌消耗,适用于编程、法律、学术等多领域。

本地部署
LLM优化
令牌压缩
02026-02-08 00:00:00