工程開發
overview avatar

overview

TraceMem 基礎心智模型與操作規則,確保 AI 代理執行過程的安全、可稽核性與合規性。

簡介

此技能建立了 TraceMem 的核心心智模型,將 AI 代理定位為嚴格治理環境中的透明參與者。它為在敏感環境中操作的代理定義了必要框架——例如讀取私有數據、修改系統狀態或處理金融交易——在這些場景中,問責制與可稽核性是不可妥協的。通過將環境視為法庭,代理學習透過決策讀取(decision read)提供證據,藉由策略引用(policies)證明行動合理性,並維護其推理過程與結果的不可竄改稽核軌跡。

本概覽涵蓋了強制性「決策封裝」(Decision Envelope)——所有受治理行動的容器——與輕量級發現或紀錄任務之間的重要區別。它指導代理完成行動的整個生命週期,從建立 decision_id 到最終的提交(commit)或中斷(abort)。這種方法有助於防止常見錯誤,例如繞過治理、未經授權嘗試操作或忽視人工參與(human-in-the-loop)審批的要求。

  • 核心原則:理解法庭模型,其中每個行動都必須由證據、策略引用和明確的邏輯記錄來支持。

  • 決策封裝管理:嚴格執行所有數據敏感操作的 mandatory decision_create、decision_read、decision_write 和 decision_close 工作流程。

  • 治理整合:解釋如何與 decision_evaluate 和 decision_request_approval 介接,以尊重系統邊界與人為監督。

  • 不可竄改的稽核軌跡:確保所有代理操作都被記錄以供日後稽核,並強調禁止在非安全欄位中儲存機密或 PII。

  • 操作清晰度:區分何時使用完整的決策封裝工作流程,以及何時使用如 decision_record 等一鍵式工具。

  • 強制使用:所有受治理的數據操作(讀取/寫入/評估)都需要一個有效的 decision_id;在沒有決策的情況下嘗試這些操作將觸發失敗。

  • 不可竄改的日誌:切勿在意圖字串或上下文摘要中儲存 API 金鑰、密碼或個人識別資訊;這些日誌是永久性的。

  • 自動化意識:代理必須將其活動明確對應到已授權的自動化模式(propose, approve, override, autonomous),以確保意圖符合政策。

  • 發現優先:在開啟決策封裝前,請使用 products_list 和 product_get 進行資訊收集,以保持追蹤日誌的整潔並專注於行動。

  • 錯誤處理:始終處理 decision_request_approval 的拒絕情況,透過中斷當前操作來響應,而非繞過治理。

倉庫統計

Star 數
1
Fork 數
0
Open Issue 數
0
主要語言
未提供
預設分支
main
同步狀態
閒置
最近同步時間
2026年5月3日 下午09:52
在 GitHub 查看