tools
统一的 LLM 函数调用与工具使用 API,支持 OpenAI、Anthropic、Google 与 Ollama,提供标准化的 JSON Schema 定义与执行流程。
简介
此工具技能提供了一个统一且与供应商无关的接口,用于在 LLM 应用程序中实现函数调用(Function Calling)与代理工具使用。它旨在解决不同 AI 供应商之间工具调用标准不一致的问题,让开发人员只需使用 JSON Schema 定义一次函数,即可在 OpenAI、Anthropic、Google Gemini 和 Ollama 的模型上顺畅执行。此抽象层处理了供应商特有参数(如 tool_choice)的细微差别,并转换多轮工具执行模式,大幅减少构建强大 AI 代理所需的样板代码。适合需要建立一致、互通工具集的软件工程师与 AI 架构师使用。
-
标准化的 JSON Schema 格式,用于定义工具函数、描述与参数属性。
-
统一的 LLMRequest 与 LLMResponse 结构,封装了工具调用请求与执行反馈。
-
自动转换工具选择策略,将高阶指令对应至供应商特有的行为,如 auto、none 或 required。
-
内置支持多轮工具执行模式,包含用于结果消息的 tool 角色以及关联的工具调用 ID。
-
支持工具调用流程的流式传输(Streaming),实现与工具启用模型间的实时互动。
-
简化工具结果消息的管理,确保有效的 JSON 字符串能正确与特定的工具调用 ID 关联,以传回 LLM 服务。
-
此技能的输入为包含名称、说明与符合 JSON Schema 参数的工具定义列表。
-
执行流程包含代理返回结构化的工具调用对象,由宿主系统执行后,再将结果提交回 LLM 服务。
-
使用工具选择时,请确保提供正确的 tool_choice 设置,以切换强制、特定或自动模式。
-
实务限制包含需遵守供应商特定的 Token 限制与函数调用模型能力,工具在可能范围内进行了抽象化,但并未从根本改变这些限制。
-
非常适合构建自主代理、数据提取管线以及需要 LLM 进行外部知识访问或动作的互动系统。
-
请务必同时安装所需的供应商 SDK(例如 openai、anthropic、google-genai、ollama)与 llmring,以启用基础功能。
仓库统计
- Star 数
- 3
- Fork 数
- 0
- Open Issue 数
- 0
- 主要语言
- Python
- 默认分支
- main
- 同步状态
- 空闲
- 最近同步时间
- 2026年5月4日 00:48