工程開發
add-model-descriptions avatar

add-model-descriptions

將新的 HuggingFace 路由模型同步至 chat-ui 設定,自動執行獲取元數據、研究模型規格並更新 YAML 環境配置檔案。

簡介

add-model-descriptions 技能是專為 Chat UI 維護人員設計的自動化代理,旨在優化大型語言模型 (LLM) 配置的生命週期,透過自動化流程處理 HuggingFace 推理路由中新發布的模型文件。當路由端點出現新模型時,該代理確保應用程式的 prod.yaml 與 dev.yaml 配置檔案保持更新、準確且格式統一,無需人工手動調整。

該流程從查詢 HuggingFace 路由 API 以識別新增模型開始,並將其與儲存庫中現有的 MODELS 陣列進行比對。對於每個識別出的差異,代理會執行針對性的網絡研究,綜合技術洞察(包括參數數量、MoE 架構及特殊能力,例如視覺、編碼或代理工具使用)。隨後,它會依照嚴格的風格規範生成描述性元數據,確保 UI 介面的一致性。這些描述涵蓋 FP8 變體、區域性模型及多模態架構,並隨後執行自動化提交。

  • 使用 HuggingFace 路由 v1/models API 端點自動探索 LLM 新增項目。

  • 比較生產環境現狀與新路由服務,防止配置偏差。

  • 遵循 8-12 字的描述模式,針對架構與核心能力生成模型元數據。

  • 直接修改 chart/env/prod.yaml 與 chart/env/dev.yaml 配置檔案。

  • 自動執行 Git 作業以提交更新,降低 SvelteKit 維護人員的重複勞動。

  • 確保環境已使用有效的 HuggingFace API 權杖完成身分驗證,以避免提取失敗。

  • 此代理專為使用 OpenAI 相容協定的模型進行優化,這是 Chat UI 模型整合的標準要求。

  • 描述應撰寫為無結尾句點的句組,並遵循既定的風格約定以維持專業呈現。

  • 在生成的描述中,請務必優先提及模型架構(例如 MoE、dense)與主要應用場景(例如程式編碼、視覺語言)。

  • 當團隊向路由發布新模型版本或獲悉新模型可用性時,應立即觸發此技能。

倉庫統計

Star 數
10,685
Fork 數
1,629
Open Issue 數
215
主要語言
TypeScript
預設分支
main
同步狀態
閒置
最近同步時間
2026年5月1日 上午07:01
在 GitHub 查看