工程開發
bedrock avatar

bedrock

用於生成式 AI 開發的 AWS Bedrock 技能。提供模型調用、嵌入、RAG 實作與模型存取管理的實作模式。

簡介

Bedrock 技能為軟體代理工作流程整合 Amazon Bedrock 提供了全面的知識庫。它專為致力於生成式 AI 應用程式的開發人員、雲端架構師和 AI 工程師而設計。此技能涵蓋透過 AWS Python SDK (boto3) 和 AWS CLI 實作基礎模型模型的技術細節,著重於能降低上下文開銷並保持穩健效能的高效率模式。它作為代理與 Claude、Titan、Llama、Mistral 和 Stable Diffusion 等模型互動的內部參考,確保代理能可靠地處理推理、對話記錄與資料處理任務。

  • 支援文字生成,具備低延遲回應的串流傳輸功能。

  • 使用 Titan Embed Text 等模型產生向量嵌入的實作指南。

  • 進階對話模式,包括系統提示管理與對話歷史追蹤。

  • 關於模型存取請求、特定區域預配與使用者授權 (EULA) 要求的設定邏輯。

  • 在隨需 (On-Demand)、佈建輸送量 (Provisioned Throughput) 與批次推理 (Batch Inference) 定價模型間轉換的最佳實踐。

  • RAG (檢索增強生成) 架構的整合策略。

  • 使用此技能為 Bedrock Runtime 的 invoke-model 呼叫產生有效的 JSON 酬載。

  • 此技能包含處理 Claude 3 多模態輸入(包括 base64 編碼影像)的特定樣板程式碼。

  • 提供針對常見模型 ID 錯誤、內容類型不符以及 bedrock:InvokeModel IAM 權限範圍錯誤的疑難排解指南。

  • 適用於自動化 IaC 片段編寫或對環境特定的存取問題進行偵錯。

  • 確保所有請求皆提供 bedrock-runtime 架構所定義的有效 JSON 結構。

倉庫統計

Star 數
1,082
Fork 數
437
Open Issue 數
15
主要語言
Python
預設分支
main
同步狀態
閒置
最近同步時間
2026年4月29日 下午12:32
在 GitHub 查看