Que fait Sécurité de la Surface d'Instruction ?
Une entrée mémoire, une modification de configuration ou un transfert peut changer ce que le prochain agent considère comme faisant autorité. Protégez la transition du contenu mutable vers des instructions ou des capacités effectives. Considérez les avertissements textuels comme une défense en profondeur et placez les décisions exécutoires dans l'environnement d'exécution.
Quand Activer
- Auditez comment un environnement d'exécution de codage, de recherche ou multi-agents découvre les instructions, la mémoire, les compétences, les outils ou la politique de permissions.
- Concevez une frontière d'approbation pour les modifications qui affectent les tours ultérieurs, les sessions, les workers ou le déploiement.
- Enquêtez sur une dérive d'instructions inattendue ou vérifiez si une récupération a restauré l'état effectif de l'environnement d'exécution.
- Évaluez le confinement et l'achèvement légitime des tâches après un rechargement, un redémarrage ou un transfert.
N'activez pas pour la conception d'outils généraux, les modifications de routine sans frontière d'instructions ou de privilèges, ou la sécurité générique des applications. Utilisez context-degradation pour la dérive accidentelle et self-managed-context pour les modifications limitées du contexte actif du modèle. Utilisez harness-engineering pour la gouvernance générale des optimiseurs et des évaluateurs.
Concepts Clés
- Surface effective. Les entrées que l'environnement d'exécution sélectionné utilise réellement pour définir les instructions, les outils, le comportement exécutable ou les permissions. Incluez le rôle, la portée, la priorité, les résolveurs ou importations, les rédacteurs et les déclencheurs d'activation de chaque source. Le même fichier peut être une donnée dans un environnement d'exécution et une directive chargée dans un autre.
- Écriture et activation. Une écriture modifie l'état stocké. L'activation modifie ce qu'un agent consomme ou peut faire. Appliquez les deux limites. Une revue de dépôt verrouille la fusion et peut laisser l'activation de la copie de travail entièrement exposée.
- Intégrité et autorisation. Un condensat identifie un contenu et une signature vérifiée identifie un signataire. Une politique indépendante doit autoriser ce principal, cette révision, cette cible et cet effet. Un transfert, une entrée mémoire ou une note de revue apporte des preuves et des propositions. Toute autorité qu'il confère doit provenir de l'enveloppe de délégation authentifiée et de la propre politique d'exécution du destinataire.
- Portée des preuves. Le préprint Mind Viruses observe les instructions persistantes et le transfert ultérieur dans ses bancs d'essai. L'avertissement par invite a réduit la propagation dans une expérience limitée, avec un comportement résiduel de premier saut. Lisez les preuves de recherche lors de l'interprétation de l'article ou de la comparaison des interventions.
Conseils Pratiques
- Cartographiez un environnement d'exécution concret. Fixez la build, le profil, la racine de l'espace de travail et le rôle effectif de l'agent. Suivez les chargeurs du démarrage à la reprise, aux changements de répertoire, à la découverte d'outils et à la délégation là où elle est prise en charge. Pour chaque entrée porteuse d'autorité, enregistrez qui peut la produire ou la remplacer, ce qui la consomme, quand elle prend effet et ce qui bloque un changement non autorisé. Marquez les entrées inconnues. Utilisez les diagnostics du chargeur ou inspectez l'implémentation installée depuis un environnement d'inspection de confiance.
- Mettez en scène les propositions en tant que données. Conservez les sorties de tâches ordinaires et les propositions modifiables. Gardez les modifications mises en scène hors des chemins de chargement porteurs d'autorité. Les travailleurs peuvent toujours récupérer des notes étiquetées par source ou des propositions mises en scène via un index de données uniquement. Examinez le texte candidat en tant que données citées. Utilisez un aperçu restreint séparé uniquement lorsque cela est nécessaire. Le temps passé en mise en scène n'accorde aucune autorité.
- Approuvez le changement effectif. Comparez le candidat avec la dernière configuration approuvée, y compris les différences de portée, de capacités et de dépendances importées. Liez l'approbation à l'artefact exact ou à l'instantané résolu, au profil et à la portée cibles, à la base active et à la révision de politique, ainsi qu'à l'approbateur autorisé. Utilisez des approbations ou des signatures vérifiées en dehors du candidat et en dehors de l'état modifiable de l'agent.
- Médiatisez l'activation. Utilisez l'environnement d'exécution, le lanceur ou une frontière de politique externe pour activer précisément les entrées révisées. Vérifiez lors de la première utilisation et à chaque changement pris en charge des entrées effectives. Maintenez la cohérence des fichiers ou de l'instantané immuable utilisés lors de l'activation avec ce qui a été vérifié. Rejetez les modifications obsolètes ou non liées. Là où l'hôte ne peut pas appliquer cela, contraignez l'environnement d'exécution à un ensemble d'entrées approuvé ou signalez explicitement l'exposition restante.
- Vérifiez depuis l'extérieur du modèle. Observez ce qui a été chargé et quelles capacités étaient disponibles, puis effectuez un contrôle comportemental limité et une tâche autorisée. Une déclaration de conformité est un diagnostic. Pour un changement inattendu, mettez en pause les lancements affectés ou les actions sensibles, préservez les preuves pertinentes et restaurez les entrées et paramètres connus comme bons via un chemin de confiance. Vérifiez depuis une session propre en tenant compte des caches affectés et de l'état repris.
Pour un audit, livrez la carte de la surface effective, les liens vers les preuves et les chemins non résolus. Pour une conception, identifiez le composant d'application, son contrat d'approbation et un chemin de récupération. Utilisez la référence de révision et de promotion de l'environnement d'exécution pour un inventaire et un enregistrement d'approbation ou une invite à utiliser avec les contrôles réels. Utilisez le protocole d'évaluation pour des expériences défensives.
Exemples
Une préférence de formatage proposée par un worker de recherche peut être conservée comme enregistrement de données et évaluée sur un document échantillon. Le parent peut continuer à compiler le rapport sous ses instructions existantes. Avant de faire de la préférence une valeur par défaut de l'espace de travail, un réviseur autorisé par la politique approuve la révision et la portée exactes, et la prochaine session propre enregistre la révision qu'elle a chargée.
Un projet vérifie les approbations avant de fusionner les modifications de règles. Son environnement d'exécution interactif lit également les règles de la copie de travail. Enregistrez des limites séparées pour la publication et l'activation locale, puis vérifiez cette dernière au moment du chargement. Une vérification de fusion réussie n'établit que le résultat de la publication.
Directives
- Préservez le travail légitime sous le dernier état approuvé lorsqu'un changement est mis en scène ou bloqué. Renvoyez la surface affectée, la décision, les preuves et la prochaine opération autorisée.
- Faites correspondre les contrôles aux effets. Protégez tout ce qui accorde une autorité ou oriente automatiquement les agents futurs. Gardez la mémoire de travail régulière et les artefacts de tâche disponibles en tant que données là où leur chargeur et leurs permissions soutiennent cette distinction.
- Auditez le travail délégué en utilisant les permissions effectives du destinataire. Transportez la source et la portée à travers le transfert et exigez une autorisation indépendante pour les effets sensibles.
Pièges
- Les listes de noms de fichiers manquent les entrées effectives. Les règles imbriquées, les importations résolues, l'état des plugins, l'enregistrement dynamique d'outils et le contexte repris peuvent changer ce qui est en vigueur. Observez le chargeur réel.
- Les vérifications post-démarrage arrivent tard. Un diff ou un canari peut détecter un changement après l'admission. Bloquez le chargement ou l'utilisation des capacités avant qu'il ne prenne effet.
- L'approbation peut survivre à sa révision. Remplacer un chemin ou modifier une importation, une portée ou une politique peut invalider l'approbation même lorsque les octets du fichier principal correspondent.
- Un refus peut cacher un échec. Le modèle peut signaler qu'il a refusé tandis qu'un autre rédacteur a déjà modifié l'état. Vérifiez les événements et l'état du cycle de vie de confiance, y compris la récupération et l'achèvement des tâches ordinaires.
Intégration
Utilisez harness-engineering pour protéger le contrôleur et les journaux, multi-agent-patterns pour la topologie de délégation et l'allocation des rôles, et evaluation pour les correcteurs déterministes et la couverture de régression. Cette compétence possède la frontière entre le contenu proposé et l'autorité lors du chargement ou de l'utilisation.