命令・操作面のセキュリティ は何をしますか?
メモリエントリ、設定の編集、またはハンドオフによって、次のエージェントが権威として扱う内容が変わることがあります。可変コンテンツから有効な指示や機能への遷移を保護してください。テキストによる警告は多層防御として扱い、実行可能な決定はランタイムに委ねてください。
アクティベーションのタイミング
- コーディング、リサーチ、またはマルチエージェントのランタイムが指示、メモリ、スキル、ツール、権限ポリシーをどのように発見するかを監査する。
- 後続のターン、セッション、ワーカー、デプロイメントに影響を与える変更に対する承認境界を設計する。
- 予期しない指示のドリフトを調査するか、回復によって有効なランタイム状態が復元されたかを確認する。
- リロード、再起動、ハンドオフをまたいだコンテナ化と正当なタスク完了を評価する。
一般的なツール設計、指示や権限の境界を伴わない定型的な編集、または一般的なアプリケーションセキュリティにはアクティベートしないでください。偶発的なドリフトには context-degradation を、モデルのライブコンテキストへの限定編集には self-managed-context を使用してください。一般的なオプティマイザーと評価者のガバナンスには harness-engineering を使用してください。
中核概念
- 実効面(Effective surface). 選択されたランタイムが実際に指示、ツール、実行可能な動作、権限を設定するために使用する入力。各ソースの役割、スコープ、優先順位、リゾルバーやインポート、ライター、アクティベーショントリガーを含めてください。同じファイルでも、あるランタイムではデータであり、別のランタイムではロードされたガイダンスになることがあります。
- 書き込みとアクティベーション. 書き込みは保存された状態を変更します。アクティベーションはエージェントが消費または実行できるものを変更します。両方の境界を強制してください。リポジトリレビューはマージをゲートしますが、ワーキングコピーのアクティベーションは完全に露出したままになる可能性があります。
- 完全性と認証. ダイジェストはコンテンツを識別し、検証済み署名は署名者を識別します。独立したポリシーがそのプリンシパル、リビジョン、ターゲット、効果を承認する必要があります。ハンドオフ、メモリエントリ、レビューノートは証拠と提案を伝えます。それらが伝える権限はすべて、認証された委任エンベロープと受信側自身のランタイムポリシーから取得される必要があります。
- 証拠の範囲. Mind Viruses プレプリントは、そのテストハーネスにおいて持続的な指示と転送を観察しています。プロンプト警告は、限定的な実験において拡散を減少させましたが、残留する最初のホップ動作が残りました。この論文を解釈したり、介入を比較したりする際には、研究証拠を読んでください。
実用的ガイダンス
- 具体的なランタイムを一つマッピングする. ビルド、プロファイル、ワークスペースルート、有効なエージェントロールを特定します。起動から再開、ディレクトリ変更、ツール発見、サポートされている場合は委任まで、ローダーを追跡します。権限を持つ各入力について、誰がそれを生成または置換できるか、誰がそれを消費するか、いつ有効になるか、何が不正な変更をブロックするかを記録します。不明なエントリにはマークを付けます。ローダーの診断を使用するか、信頼できる検査環境からインストールされた実装を検査します。
- 提案をデータとしてステージングする. 通常のタスク出力と提案は書き込み可能に保ちます。ステージングされた変更は、権限を持つロードパスから外しておきます。ワーカーは、データのみのインデックスを通じて、ソースラベル付きのノートやステージングされた提案を引き続き取得できます。候補テキストは引用データとしてレビューします。必要な場合にのみ、別の制限付きプレビューを使用します。ステージング中の時間は権限を付与しません。
- 有効な変更を承認する. 候補を最後に承認された設定と比較し、スコープ、機能、インポートされた依存関係の違いを含めます。承認を、正確なアーティファクトまたは解決済みスナップショット、ターゲットプロファイルとスコープ、アクティブなベースとポリシーリビジョン、承認された承認者に結び付けます。候補の外部で、かつエージェントの書き込み可能な状態の外部で検証された承認または署名を使用します。
- アクティベーションを仲介する. ランタイム、ランチャー、または外部のポリシー境界を使用して、レビューされた入力を正確にアクティベートします。最初の使用時と、サポートされている有効な入力の変更のたびに検証します。アクティベーション時に使用されるファイルまたは不変スナップショットが、検証されたものと一致していることを確認します。古い変更やバインドされていない変更は拒否します。ホストがこれを強制できない場合は、ランタイムを承認された入力セットに制限するか、残りの露出を明示的に報告します。
- モデルの外部から検証する. 何がロードされ、どの機能が利用可能であったかを観察し、限定された動作チェックと承認されたタスクを実行します。コンプライアンスの表明は診断的です。予期しない変更があった場合は、影響を受ける起動や機密アクションを一時停止し、関連する証拠を保存し、信頼できるパスを通じて既知の正常な入力と設定を復元します。影響を受けたキャッシュと再開された状態を考慮した、クリーンなセッションから検証します。
監査の場合は、有効なサーフェスマップ、証拠リンク、未解決のパスを提供します。設計の場合は、強制コンポーネント、その承認契約、回復パスを特定します。ランタイムレビューとプロモーションリファレンスを、インベントリと承認記録、または実際の制御と併用するプロンプトとして使用します。評価プロトコルを、防御的な実験に使用します。
例
リサーチワーカーによって提案されたフォーマット設定は、データレコードとして保持し、サンプルドキュメントで評価できます。親は既存の指示の下でレポートのコンパイルを続行できます。その設定をワークスペースのデフォルトにする前に、ポリシー承認者が正確なリビジョンとスコープを承認し、次のクリーンセッションがロードしたリビジョンを記録します。
プロジェクトは、ルール変更をマージする前に承認をチェックします。そのインタラクティブランタイムはワーキングコピーのルールも読み取ります。公開とローカルアクティベーションに別々の境界を記録し、後者をロード時に検証します。マージチェックの成功は公開結果のみを確立します。
ガイドライン
- 変更がステージングまたはブロックされている場合、最後に承認された状態の下での正当な作業を維持します。影響を受けるサーフェス、決定、証拠、次の許可された操作を返します。
- 制御を効果に合わせます。権限を付与したり、将来のエージェントを自動的に導いたりするものをすべて保護します。ローダーと権限がその区別をサポートする場合、通常のスクラッチメモリとタスクアーティファクトはデータとして利用可能に保ちます。
- 委任された作業は、受信者の有効な権限を使用して監査します。ハンドオフをまたいでソースとスコープを伝達し、機密性の高い効果には独立した承認を要求します。
落とし穴
- ファイル名リストは有効な入力を網羅しない. ネストされたルール、解決されたインポート、プラグイン状態、動的ツール登録、再開されたコンテキストが、有効な内容を変更する可能性があります。実際のローダーを観察してください。
- 起動後のチェックは遅すぎる. 差分やカナリアは、受け入れ後に変更を検出できます。ロードまたは機能の使用が有効になる前にゲートしてください。
- 承認はそのレビューを長生きする可能性がある. パスの置換、インポート、スコープ、ポリシーの変更は、プライマリファイルのバイトが一致していても、承認を無効にする可能性があります。
- 拒否は障害を隠す可能性がある. モデルは拒否したと報告しても、別のライターがすでに状態を変更している可能性があります。回復や通常のタスク完了を含む、信頼できるライフサイクルイベントと状態を確認してください。
統合
harness-engineering を使用してコントローラーとログを保護し、multi-agent-patterns を使用して委任トポロジーと役割割り当てを管理し、evaluation を使用して決定論的グレーダーと回帰カバレッジを実現します。このスキルは、ロードまたは使用中の提案コンテンツと権限の間の境界を担当します。