llm-integration
一套用於建構穩健 LLM 整合的工具包:包含 API 模式、串流、函數調用、RAG 管線及具成本效益的模型路由。
探索可重用的代理技能,查看實作細節,快速找到適合你工作流程的技能。
共找到 148 個技能
一套用於建構穩健 LLM 整合的工具包:包含 API 模式、串流、函數調用、RAG 管線及具成本效益的模型路由。
一個用於大語言模型代理生存記憶的微世界作業系統,將檔案系統轉化為可導航的房間,並將程式碼轉化為可居住的世界。
分析本機硬體 (RAM, CPU, GPU/VRAM) 並獲取最佳化的本機 LLM 模型推薦、量化設定與效能預估。
直接存取 Opper REST API,用於 LLM 編排、模型管理、任務執行,以及從 OpenAI、Anthropic 或 OpenRouter 進行無縫遷移。
支援 Claude、GPT、Gemini 與 Ollama 的多模型 LLM 整合方案。包含 API 對接、提示工程、Token 管理及模型中立的編排架構。
維護並更新 MassGen 模型註冊表,包含後端能力、模型元數據、定價結構以及新舊 AI 模型的上下文窗口配置。
基於 Qdrant 和 Ollama 的本地 RAG 語義記憶系統。適用於高效檢索工作區文件、筆記、決策記錄與用戶偏好,提供精確的向量語義搜索。
Anthropic Claude 整合模式:串流、使用 pgvector 的 RAG、工具使用、模型選擇(Haiku/Sonnet/Opus)、提示詞快取及 AI 工程成本管理。
為 LangChain 應用程式提供統一介面,整合並管理 OpenAI、Anthropic、Google、Azure 與 Bedrock 等 LLM 聊天模型服務。
透過遞迴分塊、子查詢與聚合結果處理超過 1,000 萬 tokens 的大型檔案與程式碼庫,突破 LLM 上下文視窗限制。
基於 Model Context Protocol 的 AI 瀏覽器自動化伺服器,支援網頁互動、數據提取與深度研究。
提供模型上下文協議 (MCP) 伺服器開發指南,涵蓋工具設計、資源處理及 AI/ML 整合模式。