工程开发
add-model-descriptions avatar

add-model-descriptions

将新的 HuggingFace 路由模型同步至 chat-ui 设置,自动执行获取元数据、研究模型规格并更新 YAML 环境配置文件。

简介

add-model-descriptions 技能是专为 Chat UI 维护人员设计的自动化代理,旨在优化大型语言模型 (LLM) 配置的生命周期,通过自动化流程处理 HuggingFace 推理路由中新发布模型的文档化工作。当路由端点出现新模型时,该代理确保应用程序的 prod.yaml 与 dev.yaml 配置文件保持更新、准确且格式统一,无需人工手动调整。

该流程从查询 HuggingFace 路由 API 以识别新增模型开始,并将其与存储库中现有的 MODELS 数组进行比对。对于每个识别出的差异,代理会执行针对性的网络研究,综合技术洞察(包括参数数量、MoE 架构及特殊能力,例如视觉、编码或代理工具使用)。随后,它会依照严格的风格规范生成描述性元数据,确保 UI 界面的一致性。这些描述涵盖 FP8 变体、区域性模型及多模态架构,并随后执行自动化提交。

  • 使用 HuggingFace 路由 v1/models API 端点自动探索 LLM 新增项目。

  • 比较生产环境现状与新路由服务,防止配置偏差。

  • 遵循 8-12 字的描述模式,针对架构与核心能力生成模型元数据。

  • 直接修改 chart/env/prod.yaml 与 chart/env/dev.yaml 配置文件。

  • 自动执行 Git 作业以提交更新,降低 SvelteKit 维护人员的重复劳动。

  • 确保环境已使用有效的 HuggingFace API 令牌完成身份验证,以避免提取失败。

  • 此代理专为使用 OpenAI 兼容协议的模型进行优化,这是 Chat UI 模型集成的标准要求。

  • 描述应撰写为无结尾句点的句组,并遵循既定的风格约定以维持专业呈现。

  • 在生成的描述中,请务必优先提及模型架构(例如 MoE、dense)与主要应用场景(例如程序编码、视觉语言)。

  • 当团队向路由发布新模型版本或获悉新模型可用性时,应立即触发此技能。

仓库统计

Star 数
10,685
Fork 数
1,629
Open Issue 数
215
主要语言
TypeScript
默认分支
main
同步状态
空闲
最近同步时间
2026年5月1日 07:01
在 GitHub 查看