工程開發
model-registry-maintainer avatar

model-registry-maintainer

維護並更新 MassGen 模型註冊表,包含後端能力、模型元數據、定價結構以及新舊 AI 模型的上下文窗口配置。

簡介

模型註冊表維護工具是一個專為管理 MassGen 生態系統的開發者設計的專業工具。它通過確保內部註冊表與供應商發布、API 更新和成本效益要求保持同步,簡化了 AI 模型的生命週期管理。此技能適用於需要整合新 LLM 供應商、調整模型參數或校準令牌管理邏輯的技術貢獻者。

  • 更新 massgen/backend/capabilities.py 以管理模型可用性、網頁搜索或代碼執行等支持的功能以及模型發布日期。

  • 管理 massgen/token_manager/token_manager.py 以確保為 LiteLLM 數據庫中未包含的模型提供準確的成本估算、令牌計數和上下文窗口限制。

  • 提供結構化的工作流程,用於收集關鍵模型元數據,包括每 1K 令牌的輸入/輸出定價和精確的 API 標識符。

  • 通過整合的測試套件驗證變更,確保在部署前保持後端的完整性。

  • 自動化文檔生成,確保後端表格和參考指南對最終用戶保持最新狀態。

  • 在回退到硬編碼的 PROVIDER_PRICING 條目之前,務必優先考慮 LiteLLM 數據庫進行定價解析。

  • 確保使用供應商 API 文檔中定義的精確、區分大小寫的模型名稱。

  • 在更新發布日期和性能規格時,請參考 OpenAI、Anthropic、Google 和 xAI 的官方新聞來源。

  • 使用 pytest 框架執行驗證測試,以確認配置變更不會破壞系統功能。

  • 使用提供的腳本重新生成文檔,確保代碼與開發者入口網站之間的一致性。

倉庫統計

Star 數
969
Fork 數
151
Open Issue 數
6
主要語言
Python
預設分支
main
同步狀態
閒置
最近同步時間
2026年4月29日 下午12:30
在 GitHub 查看