AI万址

标签:LLM推理

包含标签「LLM推理」的全部资源

8 个结果

LLM推理服务成本爬取工具

一个通过Firecrawl API爬取LLM推理服务网站成本数据并存储到SQLite数据库的工具。

本地部署
数据爬取
LLM推理
02026-07-08 00:00:00

时间序列分析MCP服务

TimeSense-MCP是一个基于LLM的时间序列分析服务,提供预处理、特征提取、LLM推理和数值验证功能,适用于性能监控、异常检测和趋势分析等场景。

本地部署
时间序列分析
LLM推理
02025-11-17 00:00:00

LLM推理成本爬取工具

通过Firecrawl API和SQLite数据库构建的聊天机器人,用于爬取和比较不同LLM推理服务的成本信息。

本地部署
成本分析
LLM推理
02026-01-03 00:00:00

LLM推理组件生成库

开源库,利用大型语言模型(如Claude和OpenAI的GPT)将提示映射输入转换为MCP服务器的具体组件(如工具、资源模板和提示处理程序)。

本地部署
MCP服务器
LLM推理
02025-04-30 00:00:00

LLM推理工具发现与执行

一个支持本地MCP工具发现与执行的LLM推理工具,适用于自动化测试、文档处理和多模型基准测试等场景。

本地部署
工具发现
LLM推理
02025-11-19 00:00:00

Bedrock代理服务

一个基于AWS Bedrock的LLM推理代理系统,支持自定义MCP服务器,可部署在EKS或本地Podman环境中。

本地部署
LLM推理
容器化部署
02026-04-22 00:00:00

推理工具服务器

一个提供高级推理工具的可配置LLM后端服务器,支持多种推理算法和工具集成。

本地部署
LLM推理
多算法集成
02026-03-02 00:00:00

容器化LLM推理性能评估工具

该工具用于评估容器化与裸金属部署在MCP服务器上托管轻量级LLM的性能差异,适用于需要可扩展性和部署便捷性的生产系统和DevOps流水线。

本地部署
性能评估
LLM推理
02025-09-08 00:00:00