Sicherheit der Anweisungsoberfläche (Instruction-Surface Security)
Ein Memory-Eintrag, eine Konfigurationsänderung oder eine Übergabe kann ändern, was der nächste Agent als autoritativ behandelt. Schützen Sie den Übergang von veränderbarem Inhalt zu effektiven Anweisungen oder Fähigkeiten. Behandeln Sie Textwarnungen als Verteidigung in der Tiefe und setzen Sie durchsetzbare Entscheidungen in der Laufzeitumgebung.
Wann zu aktivieren
- Prüfen Sie, wie eine Coding-, Research- oder Multi-Agent-Laufzeitumgebung Anweisungen, Memory, Skills, Tools oder Berechtigungsrichtlinien entdeckt.
- Entwerfen Sie eine Genehmigungsgrenze für Änderungen, die spätere Turns, Sitzungen, Worker oder Deployments betreffen.
- Untersuchen Sie unerwartete Anweisungsabweichungen oder prüfen Sie, ob eine Wiederherstellung den effektiven Laufzeitzustand wiederhergestellt hat.
- Bewerten Sie Containment und legitime Aufgabenabwicklung über einen Reload, Restart oder eine Übergabe hinweg.
Nicht aktivieren für allgemeines Tool-Design, routinemäßige Bearbeitungen ohne Anweisungs- oder Berechtigungsgrenze oder generische Anwendungssicherheit. Verwenden Sie context-degradation für versehentliche Abweichungen und self-managed-context für begrenzte Bearbeitungen des Live-Kontexts des Modells. Verwenden Sie harness-engineering für allgemeine Optimierungs- und Evaluierungs-Governance.
Kernkonzepte
- Effektive Oberfläche. Die Eingaben, die die ausgewählte Laufzeitumgebung tatsächlich verwendet, um Anweisungen, Tools, ausführbares Verhalten oder Berechtigungen festzulegen. Berücksichtigen Sie die Rolle, den Umfang, die Priorität, Resolver oder Imports, Schreiber und Aktivierungstrigger jeder Quelle. Dieselbe Datei kann in einer Laufzeitumgebung Daten und in einer anderen geladene Anleitung sein.
- Schreiben und Aktivieren. Ein Schreiben ändert den gespeicherten Zustand. Die Aktivierung ändert, was ein Agent konsumieren oder tun kann. Setzen Sie beide Grenzen durch. Eine Repository-Überprüfung absichert den Merge, kann aber die Aktivierung der Arbeitskopie völlig offen lassen.
- Integrität und Autorisierung. Ein Digest identifiziert den Inhalt und eine verifizierte Signatur identifiziert einen Unterzeichner. Eine unabhängige Richtlinie muss diesen Principal, diese Revision, dieses Ziel und diesen Effekt autorisieren. Eine Übergabe, ein Memory-Eintrag oder eine Überprüfungsnotiz trägt Beweise und Vorschläge. Jede Autorität, die es vermittelt, muss vom authentifizierten Delegationsumschlag und der eigenen Laufzeitrichtlinie des Empfängers stammen.
- Umfang der Beweise. Der Mind Viruses Preprint beobachtet persistente Anweisungen und Weiterleitung in seinen Testumgebungen. Die Prompt-Warnung reduzierte die Ausbreitung in einem begrenzten Experiment mit einem verbleibenden First-Hop-Verhalten. Lesen Sie die Forschungsevidenz, wenn Sie die Arbeit interpretieren oder Interventionen vergleichen.
Praktische Anleitung
- Eine konkrete Laufzeitumgebung abbilden. Build, Profil, Arbeitsbereichsverzeichnis und effektive Agentenrolle festlegen. Verfolgen Sie die Lader vom Start über Fortsetzung, Verzeichniswechsel, Tool-Erkennung und Delegation (wo unterstützt). Für jede autoritätstragende Eingabe erfassen Sie, wer sie erstellen oder ersetzen kann, was sie konsumiert, wann sie wirksam wird und was eine unbefugte Änderung blockiert. Markieren Sie unbekannte Einträge. Verwenden Sie Lader-Diagnosen oder inspizieren Sie die installierte Implementierung aus einer vertrauenswürdigen Inspektionsumgebung.
- Vorschläge als Daten bereitstellen. Halten Sie gewöhnliche Aufgabenausgaben und Vorschläge beschreibbar. Halten Sie bereitgestellte Änderungen aus den autoritätstragenden Ladepfaden heraus. Worker können weiterhin quellgekennzeichnete Notizen oder bereitgestellte Vorschläge über einen reinen Datenindex abrufen. Überprüfen Sie Kandidatentext als zitierte Daten. Verwenden Sie eine separate eingeschränkte Vorschau nur bei Bedarf. Zeit in der Bereitstellung gewährt keine Autorität.
- Die effektive Änderung genehmigen. Vergleichen Sie den Kandidaten mit der letzten genehmigten Konfiguration, einschließlich Unterschieden in Umfang, Fähigkeiten und importierten Abhängigkeiten. Binden Sie die Genehmigung an das genaue Artefakt oder aufgelöste Snapshot, das Zielprofil und den Umfang, die aktive Basis- und Richtlinienrevision und den autorisierten Genehmiger. Verwenden Sie Genehmigungen oder Signaturen, die außerhalb des Kandidaten und außerhalb des beschreibbaren Zustands des Agenten verifiziert wurden.
- Aktivierung vermitteln. Verwenden Sie die Laufzeitumgebung, den Starter oder eine externe Richtlinienbegrenzung, um genau die überprüften Eingaben zu aktivieren. Überprüfen Sie bei erster Nutzung und bei jeder unterstützten Änderung der effektiven Eingaben. Stellen Sie sicher, dass die bei der Aktivierung verwendeten Dateien oder unveränderlichen Snapshots mit dem überprüften übereinstimmen. Lehnen Sie veraltete oder ungebundene Änderungen ab. Wenn die Hostumgebung dies nicht durchsetzen kann, beschränken Sie die Laufzeitumgebung auf einen genehmigten Eingabesatz oder melden Sie die verbleibende Exposition explizit.
- Von außerhalb des Modells verifizieren. Beobachten Sie, was geladen wurde und welche Fähigkeiten verfügbar waren, führen Sie dann eine begrenzte Verhaltensüberprüfung und eine autorisierte Aufgabe durch. Eine Konformitätserklärung ist diagnostisch. Bei einer unerwarteten Änderung pausieren Sie betroffene Starts oder sensible Aktionen, bewahren Sie relevante Beweise auf und stellen Sie bekannte gute Eingaben und Einstellungen über einen vertrauenswürdigen Pfad wieder her. Verifizieren Sie von einer sauberen Sitzung aus unter Berücksichtigung von betroffenen Caches und fortgesetztem Zustand.
Für ein Audit liefern Sie die Karte der effektiven Oberfläche, Beweislinks und ungelöste Pfade. Für ein Design identifizieren Sie die durchsetzende Komponente, ihren Genehmigungsvertrag und einen Wiederherstellungspfad. Verwenden Sie die Laufzeitüberprüfungs- und Beförderungsreferenz für ein Inventar und Genehmigungsprotokoll oder einen Prompt zur Verwendung neben tatsächlichen Kontrollen. Verwenden Sie das Evaluierungsprotokoll für defensive Experimente.
Beispiele
Eine Formatierungspräferenz, die von einem Research-Worker vorgeschlagen wird, kann als Datenaufzeichnung beibehalten und an einem Beispieldokument ausgewertet werden. Das übergeordnete Element kann den Bericht unter seinen bestehenden Anweisungen weiter zusammenstellen. Bevor die Präferenz zu einem Arbeitsbereichsstandard wird, genehmigt ein richtlinienautorisierter Prüfer die genaue Revision und den Umfang, und die nächste saubere Sitzung zeichnet die geladene Revision auf.
Ein Projekt prüft Genehmigungen, bevor es Regeländerungen merged. Seine interaktive Laufzeitumgebung liest auch Arbeitskopie-Regeln. Zeichnen Sie separate Grenzen für das Veröffentlichen und die lokale Aktivierung auf, überprüfen Sie dann Letzteres zum Ladezeitpunkt. Ein erfolgreicher Merge-Check stellt nur das Veröffentlichungsergebnis sicher.
Richtlinien
- Bewahren Sie legitime Arbeit unter dem letzten genehmigten Zustand, wenn eine Änderung bereitgestellt oder blockiert wird. Melden Sie die betroffene Oberfläche, Entscheidung, Beweise und den nächsten erlaubten Vorgang.
- Passen Sie Kontrollen an die Auswirkungen an. Schützen Sie alles, was Autorität gewährt oder zukünftige Agenten automatisch steuert. Halten Sie regelmäßiges Scratch-Memory und Aufgabenartefakte als Daten verfügbar, wo ihr Lader und ihre Berechtigungen diese Unterscheidung unterstützen.
- Überprüfen Sie delegierte Arbeit unter Verwendung der effektiven Berechtigungen des Empfängers. Tragen Sie Quelle und Umfang über die Übergabe hinweg und fordern Sie unabhängige Autorisierung für sensible Auswirkungen an.
Fallstricke
- Dateinamenlisten übersehen effektive Eingaben. Verschachtelte Regeln, aufgelöste Imports, Plugin-Zustand, dynamische Tool-Registrierung und fortgesetzter Kontext können ändern, was in Kraft ist. Beobachten Sie den tatsächlichen Lader.
- Post-Start-Prüfungen kommen zu spät. Ein Diff oder Canary kann eine Änderung nach dem Zugang erkennen. Absichern Sie den Ladevorgang oder die Funktionsnutzung, bevor sie wirksam wird.
- Genehmigung kann ihre Überprüfung überleben. Das Ersetzen eines Pfades oder das Ändern eines Imports, Umfangs oder einer Richtlinie kann die Genehmigung ungültig machen, selbst wenn die Bytes der primären Datei übereinstimmen.
- Eine Ablehnung kann ein Versagen verbergen. Das Modell meldet möglicherweise, dass es abgelehnt hat, während ein anderer Schreiber bereits den Zustand geändert hat. Überprüfen Sie vertrauenswürdige Lebenszyklus-Ereignisse und Zustände, einschließlich Wiederherstellung und regulärer Aufgabenabschluss.
Integration
Verwenden Sie harness-engineering zum Schutz der Steuerung und Protokolle, multi-agent-patterns für Delegationstopologie und Rollenzuteilung, und evaluation für deterministische Bewerter und Regressionsabdeckung. Dieses Skill besitzt die Grenze zwischen vorgeschlagenem Inhalt und Autorität während des Ladens oder der Verwendung.