指令表面安全性(Instruction-Surface Security)
記憶體條目、設定編輯或交接,都可能改變下一個代理視為權威的內容。保護從可變內容到有效指令或能力的轉換過程。將文字警告視為深度防禦的一環,並在執行時期內實施可強制執行的決策。
何時啟用
- 稽核編碼、研究或多人代理執行時期如何發現指令、記憶體、技能、工具或權限政策。
- 為影響後續回合、工作階段、工作單元或部署的變更設計核可邊界。
- 調查非預期的指令漂移,或檢查復原作業是否恢復了有效的執行時期狀態。
- 評估在重新載入、重新啟動或交接過程中的隔離性以及合法任務完成度。
請勿為一般工具設計、無關指令或權限邊界的例行編輯,或一般的應用程式安全性啟用此技能。對於意外漂移,請使用 context-degradation;對於模型即時上下文的有限編輯,請使用 self-managed-context。對於一般的最佳化器和評估器治理,請使用 harness-engineering。
核心概念
- 有效表面(Effective surface)。 所選執行時期實際用於設定指令、工具、可執行行為或權限的輸入。涵蓋每個來源的角色、範圍、優先順序、解析器或匯入項目、寫入器以及啟用觸發器。同一個檔案在一個執行時期中是資料,在另一個執行時期中可能是已載入的指導方針。
- 寫入與啟用(Write and activation)。 寫入會改變儲存狀態。啟用則會改變代理消費或能夠執行的內容。兩者都必須強制實施邊界。儲存庫審查會控管合併,但可能完全暴露工作副本的啟用過程。
- 完整性與授權(Integrity and authorization)。 摘要(digest)用於識別內容,而經過驗證的簽章用於識別簽署者。獨立政策必須授權該主體、版本、目標與效果。交接、記憶體條目或審查註記承載了證據與提案。其所傳達的任何權限都必須來自經過驗證的委派封裝以及接收方自身的執行時期政策。
- 證據範圍(Scope of the evidence)。 Mind Viruses 預印本在其測試框架中觀察到持續性指令與向前傳遞的行為。提示警告在有限的實驗中減少了擴散,但仍存在殘留的首次跳躍行為。在解讀論文或比較干預措施時,請閱讀研究證據。
實用指導原則
- 映射具體的執行時期。 確定建置版本、設定檔、工作區根目錄以及有效的代理角色。追蹤從啟動到恢復、目錄變更、工具發現以及(若支援)委派的載入器。對於每個承載權限的輸入,記錄誰可以產生或取代它、誰消費它、何時生效,以及什麼會阻止未經授權的變更。標記未知的條目。使用載入器診斷或從可信的檢查環境檢查已安裝的實作。
- 將提案暫存為資料。 保持一般任務輸出與提案為可寫入狀態。將暫存的變更保留在承載權限的載入路徑之外。工作單元仍可透過純資料索引檢索帶有來源標籤的筆記或暫存提案。將候選文字作為引用的資料進行審查。僅在必要時使用獨立的受限預覽。在暫存階段不授予任何權限。
- 核准生效的變更。 將候選變更與上次核准的設定進行比較,包括範圍、能力以及匯入依賴項的差異。將核准綁定到確切的成品或解析後的快照、目標設定檔與範圍、有效基礎與政策版本,以及授權的核准者。使用在候選內容外部以及在代理可寫入狀態外部驗證的核准或簽章。
- 中介啟用過程。 使用執行時期、啟動器或外部政策邊界來精確啟用經過審查的輸入。在首次使用時以及每次支援的有效輸入變更時進行驗證。確保啟用時使用的檔案或不可變快照與驗證過的內容一致。拒絕過時或未綁定的變更。若主機無法強制執行此點,請將執行時期限制為一組經核准的輸入,或明確報告剩餘的暴露風險。
- 從模型外部驗證。 觀察載入了哪些內容以及哪些能力可用,然後執行一次受限的行為檢查與一次授權的任務。合規聲明僅具診斷價值。對於非預期的變更,暫停受影響的啟動或敏感操作,保留相關證據,並透過可信路徑還原已知良好的輸入與設定。從一個乾淨的工作階段進行驗證,並考量受影響的快取與恢復的狀態。
對於稽核,交付有效表面地圖、證據連結以及未解決的路徑。對於設計,識別強制執行元件、其核准合約以及復原路徑。使用執行時期審查與晉升參考作為盤點與核准記錄,或作為與實際控制措施一同使用的提示。使用評估協議進行防禦性實驗。
範例
一個由研究工作單元提出的格式偏好設定,可以作為資料記錄保存,並在一個文件樣本上進行評估。父代理可以繼續在其現有指令下編譯報告。在將該偏好設定設為工作區預設值之前,需由受到政策授權的審查者核准確切的版本與範圍,然後下一個乾淨的工作階段會記錄其載入的版本。
一個專案會在合併規則變更前檢查核准。其互動式執行時期也會讀取工作副本的規則。為發佈與本地啟用分別記錄獨立的邊界,然後在載入時驗證後者。成功的合併檢查僅確立了發佈結果。
指導方針
- 當變更被暫存或阻止時,保留在上次核准狀態下的合法工作。回傳受影響的表面、決策、證據以及下一步允許的操作。
- 使控制措施與效果相匹配。保護任何授予權限或自動引導未來代理的項目。在其載入器與權限支援此區分的情況下,保持一般的暫存記憶體與任務成品可作為資料存取。
- 使用接收方的有效權限來稽核委派的工作。在交接過程中傳遞來源與範圍,並要求對敏感效果進行獨立授權。
注意事項
- 檔案名稱列表會遺漏有效輸入。 巢狀規則、已解析的匯入項、外掛狀態、動態工具註冊以及已恢復的上下文都可能改變實際生效的內容。請觀察實際的載入器。
- 啟動後檢查來得太晚。 差異比對或金絲雀測試可以在允許進入後才偵測到變更。請在變更生效前,先控管載入或能力的使用。
- 核准可能比審查存活得更久。 更換路徑或變更匯入項、範圍或政策,即使主要檔案的位元組相同,也可能使核准失效。
- 拒絕可能隱藏失敗。 模型可能報告它拒絕了某請求,但另一個寫入器可能已經改變了狀態。請檢查可信的生命週期事件與狀態,包括復原與一般任務完成。
整合
使用 harness-engineering 來保護控制器與日誌,使用 multi-agent-patterns 來處理委派拓撲與角色分配,使用 evaluation 來進行確定性評分與回歸覆蓋。本技能負責管理在載入或使用期間,提案內容與權限之間的邊界。