rag-implementation

RAG Implementation 技能為建構檢索增強生成系統提供了完整的框架，旨在減少幻覺並確保 LLM 應用程式的真實準確性。此技能專為建構複雜文件問答平台、領域專屬聊天機器人或研究型智慧工具的 AI 工程師與開發人員所設計。透過整合向量儲存、先進的檢索策略與編排模式，此技能使開發人員能夠縮小靜態 LLM 知識與動態專有數據之間的落差。

• 支援業界標準向量資料庫，包括 Pinecone、Weaviate、Milvus、Chroma、Qdrant 與 pgvector，以實現高效的嵌入儲存與檢索。

• 實作多階段檢索管線，包括密集檢索、稀疏關鍵字比對 (BM25) 以及使用倒數排名融合 (RRF) 的混合搜尋。

• 提供先進的重排 (Reranking) 能力，利用交叉編碼器 (Cross-Encoders)、最大邊際相關性 (MMR) 與基於 LLM 的評分機制來優化上下文精確度。

• 整合 LangGraph 進行持久且有狀態的代理工作流，實現對檢索文件進行複雜的多步驟推理。

• 支援複雜的檢索模式，如多重查詢擴展 (Multi-Query)、HyDE (假設性文件嵌入) 與上下文壓縮，以最大化召回率。

• 提供高效能嵌入模型的設定指南，包括 voyage-3-large、text-embedding-3-large 與 BGE 模型，確保最佳的語意呈現。

• 專為使用 LangChain 與 Python 建構可擴充、生產級 AI 服務的開發人員所設計。

• 非常適合需要來源引用、穩健推理以及處理專有企業或研究文件的專案。

• 建議透過模組化組件進行迭代測試，根據特定領域限制調整檢索效能。

• 實作時，請務必使用 RecursiveCharacterTextSplitter 進行明確的文件分塊策略，以取得最佳嵌入品質。

• 輸入通常為原始文字文件或非結構化資料來源，輸出則為基於上下文、準確且減少對模型內部訓練數據依賴的回答。