工程开发
guard
为提示词中的 JSON 数据提供认知安全分析,防止大型语言模型在处理不完整或大规模数据集时产生幻觉与推理错误。
简介
Guard 技能是一种专门的认知安全工具,旨在管理大型语言模型工作流程中的 JSON 数据提交。它充当原始输入与推理引擎之间的智慧中间件,专门解决模型在处理截断或统计数据不足的资讯时进行逻辑运算所常见的错误。通过实作基于决策的网关,该技能确保只有具备上下文安全且具代表性的数据才能到达模型,进而减少幻觉并确保数据驱动提示的更高可靠性。
-
透过最小化、列式转换以及自动移除 Null 或冗余值来执行 JSON 输入的无损压缩。
-
使用基于 API 的验证或启发式回退执行智慧型 Token 计数,确保符合严格的 Token 配额限制。
-
具备强大的决策引擎,根据安全性和上下文需求将提交的可行性分类为 ALLOW(允许)、SAMPLE(抽样)或 BLOCK(阻止)状态。
-
提供智慧型修剪功能,包含首尾记录保留以及针对大型数据集的均匀分布抽样。
-
实作鉴识侦测逻辑,用于识别并标记可能导致偏差推理的高风险记录查询。
-
支持分析、摘要与鉴识等多种语义模式,每种模式皆具备客制化的抽样与验证规则。
-
非常适合处理复杂、大量或敏感 JSON 数据集,且需在输入前进行验证的开发人员、数据分析师与大型语言模型工程师。
-
透过 CLI 与标准工作流程整合,支持档案路径输入以及 JSON 片段的内联串流。
-
需要 Python 3.8+ 环境,并配置 ANTHROPIC_API_KEY 以进行精确的模型辅助 Token 分析。
-
以可配置的安全阈值运作,允许针对 Token 预算、字元数上限与特定警告触发条件进行调整。
-
启用鉴识分析工作流程,可针对敏感或可能被误解的查询执行明确封锁,以维护系统完整性。
仓库统计
- Star 数
- 13
- Fork 数
- 1
- Open Issue 数
- 1
- 主要语言
- JavaScript
- 默认分支
- main
- 同步状态
- 空闲
- 最近同步时间
- 2026年5月3日 17:20