工程開發
context-fundamentals avatar

context-fundamentals

管理大語言模型上下文視窗、注意力預算及提示詞架構的基礎框架,旨在優化代理表現、降低成本並解決上下文退化問題。

簡介

Context-fundamentals 是開發者與工程師建構生產級 AI 代理系統的必備基礎技能。它建立了上下文工程的技術紀律,將 LLM 上下文視窗視為有限的注意力預算而非無限的儲存空間。透過掌握此技能,使用者能設計出能緩解「中間丟失」現象與 U 型注意力曲線退化的架構,這些問題在長文本任務中極為常見。

本技能提供系統提示詞組織、工具定義設計及對話紀錄壓縮的實作模式。它指導開發者如何應用「漸進式揭露」(僅在必要時載入資訊)來維持模型專注度並降低 Token 成本。對於負責調試代理行為或優化複雜多輪對話效能的開發者而言,這是不可或缺的工具。

  • 資訊優先於詳盡的原則,以最大化代理路徑中的信噪比。

  • 關鍵限制的位置感知放置指南,以利用高回憶區域(上下文開頭與結尾)。

  • 工具定義重構策略,包括處理參數預設值、使用情境及 JSON 序列化膨脹問題。

  • 週期性優化對話歷史以防止上下文飽和的方法。

  • 觀測遮罩技術,將冗長的工具輸出替換為簡潔的參照。

  • 當啟動新的代理架構設計或進行提示詞鏈代碼審查時啟動此技能。

  • 當代理出現行為偏移或因上下文超載而無法遵循指令時,將其用於事故響應。

  • 輸入需求包括當前的系統提示詞、工具定義或推理蹤跡片段。

  • 輸出提供結構性重構建議、注意力預算分析及啟發式提示詞優化。

  • 請注意,大多數模型的有效容量通常僅為標稱視窗的 60-70%;請據此規劃以避免效能崩潰。

倉庫統計

Star 數
15,323
Fork 數
1,203
Open Issue 數
25
主要語言
Python
預設分支
main
同步狀態
閒置
最近同步時間
2026年4月28日 上午11:14
在 GitHub 查看
context-fundamentals | Skills Hub