工程開發
guard avatar

guard

為提示詞中的 JSON 數據提供認知安全分析,防止大型語言模型在處理不完整或大規模數據集時產生幻覺與推理錯誤。

簡介

Guard 技能是一種專門的認知安全工具,旨在管理大型語言模型工作流程中的 JSON 數據提交。它充當原始輸入與推理引擎之間的智慧中間件,專門解決模型在處理截斷或統計數據不足的資訊時進行邏輯運算所常見的錯誤。透過實作基於決策的閘道,該技能確保只有具備上下文安全且具代表性的數據才能到達模型,進而減少幻覺並確保數據驅動提示的更高可靠性。

  • 透過最小化、列式轉換以及自動移除 Null 或冗餘值來執行 JSON 輸入的無損壓縮。

  • 使用基於 API 的驗證或啟發式回退執行智慧型 Token 計數,確保符合嚴格的 Token 配額限制。

  • 具備強大的決策引擎,根據安全性和上下文需求將提交的可行性分類為 ALLOW(允許)、SAMPLE(抽樣)或 BLOCK(阻止)狀態。

  • 提供智慧型修剪功能,包含首尾記錄保留以及針對大型數據集的均勻分佈抽樣。

  • 實作鑑識偵測邏輯,用於識別並標記可能導致偏差推理的高風險記錄查詢。

  • 支援分析、摘要與鑑識等多種語義模式,每種模式皆具備客製化的抽樣與驗證規則。

  • 非常適合處理複雜、大量或敏感 JSON 數據集,且需在輸入前進行驗證的開發人員、數據分析師與大型語言模型工程師。

  • 透過 CLI 與標準工作流程整合,支援檔案路徑輸入以及 JSON 片段的內聯串流。

  • 需要 Python 3.8+ 環境,並配置 ANTHROPIC_API_KEY 以進行精確的模型輔助 Token 分析。

  • 以可配置的安全閾值運作,允許針對 Token 預算、字元數上限與特定警告觸發條件進行調整。

  • 啟用鑑識分析工作流程,可針對敏感或可能被誤解的查詢執行明確封鎖,以維護系統完整性。

倉庫統計

Star 數
13
Fork 數
1
Open Issue 數
1
主要語言
JavaScript
預設分支
main
同步狀態
閒置
最近同步時間
2026年5月3日 下午05:20
在 GitHub 查看