工程開發
update-llm-model-list avatar

update-llm-model-list

根據 litellm 註冊表審核並同步 assets.py 中的支援 LLM 模型列表。

簡介

此技能提供了一種系統化的方法,用於維護 Agenta 平台內受支援 LLM 模型的準確性。透過使用 litellm model_cost 註冊表作為權威來源,此工具確保了 playground 中的模型下拉選單、成本元數據和提供商路由配置與現實中的可用性保持一致。專為需要新增模型版本、移除過期項目或在日常維護與功能擴充期間驗證模型註冊表完整性的軟體工程師與 LLMOps 從業人員所設計。

  • 針對 litellm 生態系統執行模型鍵的全面審核,以識別缺失、錯誤或過期的項目。

  • 自動識別新的相關模型,同時過濾掉嵌入 (embedding)、音訊和遺留模型等雜訊。

  • 驗證提供商前綴規範,確保 Anthropic、Gemini、Groq 和 OpenAI 模型正確映射到其各自的路由和成本計算邏輯。

  • 生成診斷報告以驗證與 Secrets API 枚舉和單元測試要求的對齊情況。

  • 促進維護位於 sdk/agenta/sdk/assets.py 中的規範模型列表。

  • 透過 uvx 執行提供的 Python 腳本,無需進行本地環境配置即可執行自動化檢查。

  • 使用診斷輸出手動更新原始程式碼中的模型列表,確保新模型已正確分類並放入相應的提供商區塊中。

  • 務必執行 sdk/oss/tests/pytest/unit/test_supported_llm_models.py 中的對應 pytest 套件,以確保變更不會破壞現有的模型整合。

  • 確保遵守特定於提供商的前綴要求(例如,移除 Claude 的前綴,但保留 Gemini/Groq 的前綴),以避免執行階段的路由錯誤。

  • 建議在編輯後與 ruff linter 整合,以維持程式碼風格並符合儲存庫標準。

倉庫統計

Star 數
4,082
Fork 數
516
Open Issue 數
81
主要語言
TypeScript
預設分支
main
同步狀態
閒置
最近同步時間
2026年5月1日 上午08:31
在 GitHub 查看