工程开发
update-llm-model-list avatar

update-llm-model-list

根据 litellm 注册表审核并同步 assets.py 中的支持 LLM 模型列表。

简介

此技能提供了一种系统化的方法,用于维护 Agenta 平台内受支持 LLM 模型的准确性。通过使用 litellm model_cost 注册表作为权威来源,此工具确保了 playground 中的模型下拉菜单、成本元数据和提供商路由配置与现实中的可用性保持一致。专为需要添加模型版本、移除过期项目或在日常维护与功能扩展期间验证模型注册表完整性的软件工程师与 LLMOps 从业人员所设计。

  • 针对 litellm 生态系统执行模型键的全面审核,以识别缺失、错误或过期的项目。

  • 自动识别新的相关模型,同时过滤掉嵌入 (embedding)、音频和遗留模型等杂讯。

  • 验证提供商前缀规范,确保 Anthropic、Gemini、Groq 和 OpenAI 模型正确映射到其各自的路由和成本计算逻辑。

  • 生成诊断报告以验证与 Secrets API 枚举和单元测试要求的对齐情况。

  • 促进维护位于 sdk/agenta/sdk/assets.py 中的规范模型列表。

  • 通过 uvx 执行提供的 Python 脚本,无需进行本地环境配置即可执行自动化检查。

  • 使用诊断输出手动更新源代码中的模型列表,确保新模型已正确分类并放入相应的提供商区块中。

  • 务必执行 sdk/oss/tests/pytest/unit/test_supported_llm_models.py 中的对应 pytest 套件,以确保变更不会破坏现有的模型集成。

  • 确保遵守特定于提供商的前缀要求(例如,移除 Claude 的前缀,但保留 Gemini/Groq 的前缀),以避免运行时的路由错误。

  • 建议在编辑后与 ruff linter 集成,以维持代码风格并符合存储库标准。

仓库统计

Star 数
4,082
Fork 数
516
Open Issue 数
81
主要语言
TypeScript
默认分支
main
同步状态
空闲
最近同步时间
2026年5月1日 08:31
在 GitHub 查看