CommunityProgramación y desarrollogithub.com

Seguridad de la Superficie de Instrucción

Endurece los entornos de ejecución de agentes contra inyección persistente de instrucciones o cambios no autorizados en instrucciones y permisos. Útil para auditar qué cargan automáticamente los agentes, diseñar activación revisada para reglas de proyecto, habilidades, memoria o configuración de herramientas, y probar si los límites de confianza se mantienen después de recarga, reinicio o delegación.

¿Qué es Seguridad de la Superficie de Instrucción?

Esta habilidad está diseñada para proteger la transición entre contenido mutable (como memoria, configuraciones o mensajes de entrada) y las instrucciones o capacidades efectivas que un agente ejecuta. Aborda un punto crítico de seguridad: cómo los agentes de IA descubren y activan instrucciones, habilidades, herramientas y políticas de permisos, especialmente en entornos que permiten recargas, reinicios o traspasos entre agentes. El enfoque está en mapear la superficie efectiva de un entorno de ejecución concreto, diseñar límites de aprobación para cambios que afecten a instrucciones o privilegios, y mediar la activación para garantizar que solo se apliquen entradas revisadas y autorizadas. Además, proporciona guía práctica para auditar cómo se cargan los inputs con autoridad, cómo aprobar cambios sin conceder autoridad prematura, y cómo verificar desde fuera del modelo que las capacidades cargadas son las esperadas. Es compatible con plataformas como Claude Code, Cursor, Codex y otros entornos multi-agente, y se complementa con otras habilidades como `harness-engineering` para la gobernanza de evaluadores y `multi-agent-patterns` para topología de delegación. La habilidad se basa en la investigación 'Mind Viruses' y referencias técnicas para intervenciones defensivas.

Compatible con~Claude Code~Codex CLI~Cursor
npx skills add https://github.com/muratcankoylan/Agent-Skills-for-Context-Engineering/tree/main/skills/instruction-surface-security

Installed? Explore more Programación y desarrollo skills: steipete/bluebubbles, steipete/eightctl, steipete/blucli · View all 6 →

Preguntar en tu IA favorita

Abre un nuevo chat con esta habilidad de agente ya precargada.

Documentación

¿Qué hace Seguridad de la Superficie de Instrucción?

Una entrada de memoria, una edición de configuración o una transferencia pueden cambiar lo que el siguiente agente considera autoritativo. Protege la transición de contenido mutable a instrucciones o capacidades efectivas. Trata las advertencias de texto como defensa en profundidad y coloca decisiones ejecutables en el entorno de ejecución.

Cuándo activar

  • Auditar cómo un entorno de ejecución de codificación, investigación o multi-agente descubre instrucciones, memoria, habilidades, herramientas o políticas de permisos.
  • Diseñar un límite de aprobación para cambios que afecten a turnos, sesiones, trabajadores o despliegues posteriores.
  • Investigar una desviación inesperada de instrucciones o verificar si una recuperación restauró el estado efectivo del entorno de ejecución.
  • Evaluar el confinamiento y la finalización legítima de tareas a través de una recarga, reinicio o transferencia.

No activar para diseño general de herramientas, ediciones rutinarias sin límite de instrucciones o privilegios, o seguridad genérica de aplicaciones. Usar context-degradation para desviación accidental y self-managed-context para ediciones acotadas del contexto vivo del modelo. Usar harness-engineering para gobernanza general de optimizadores y evaluadores.

Conceptos Clave

  • Superficie efectiva. Las entradas que el entorno de ejecución seleccionado utiliza realmente para establecer instrucciones, herramientas, comportamiento ejecutable o permisos. Incluye el rol, alcance, precedencia, resolvedores o importaciones, escritores y desencadenantes de activación de cada fuente. El mismo archivo puede ser datos en un entorno y guía cargada en otro.
  • Escritura y activación. Una escritura cambia el estado almacenado. La activación cambia lo que un agente consume o puede hacer. Aplica ambos límites. Una revisión de repositorio controla la fusión y puede dejar la activación en la copia de trabajo completamente expuesta.
  • Integridad y autorización. Un resumen (digest) identifica el contenido y una firma verificada identifica al firmante. Una política independiente debe autorizar ese principal, revisión, destino y efecto. Una transferencia, entrada de memoria o nota de revisión transporta evidencia y propuestas. Cualquier autoridad que transmita debe provenir del envoltorio de delegación autenticado y de la propia política del entorno de ejecución del receptor.
  • Alcance de la evidencia. El preprint "Mind Viruses" observa instrucciones persistentes y transferencia hacia adelante en sus bancos de prueba. La advertencia de indicación redujo la propagación en un experimento acotado, con comportamiento residual en el primer salto. Lee la evidencia de investigación al interpretar el artículo o comparar intervenciones.

Guía Práctica

  1. Mapea un entorno de ejecución concreto. Fija la compilación, perfil, raíz del área de trabajo y rol efectivo del agente. Rastrea los cargadores desde el inicio hasta la reanudación, cambios de directorio, descubrimiento de herramientas y delegación donde sea compatible. Para cada entrada con autoridad, registra quién puede producirla o reemplazarla, qué la consume, cuándo entra en vigor y qué bloquea un cambio no autorizado. Marca entradas desconocidas. Utiliza diagnósticos del cargador o inspecciona la implementación instalada desde un entorno de inspección de confianza.
  2. Escenifica propuestas como datos. Mantén las salidas de tareas ordinarias y las propuestas como escribibles. Mantén los cambios escenificados fuera de las rutas de carga con autoridad. Los trabajadores aún pueden recuperar notas etiquetadas por fuente o propuestas escenificadas a través de un índice solo de datos. Revisa el texto candidato como datos citados. Utiliza una vista previa restringida separada solo cuando sea necesario. El tiempo en escenificación no otorga autoridad.
  3. Aprueba el cambio efectivo. Compara el candidato con la última configuración aprobada, incluyendo diferencias en alcance, capacidades y dependencias importadas. Vincula la aprobación al artefacto exacto o instantánea resuelta, perfil y alcance objetivo, revisión base y política activas, y aprobador autorizado. Utiliza aprobaciones o firmas verificadas fuera del candidato y fuera del estado escribible del agente.
  4. Media la activación. Utiliza el entorno de ejecución, lanzador o un límite de política externo para activar precisamente las entradas revisadas. Verifica en el primer uso y en cada cambio compatible de entradas efectivas. Mantén los archivos o la instantánea inmutable utilizada en la activación coherente con lo verificado. Rechaza cambios obsoletos o no vinculados. Cuando el anfitrión no pueda imponer esto, restringe el entorno de ejecución a un conjunto de entradas aprobado o reporta la exposición restante explícitamente.
  5. Verifica desde fuera del modelo. Observa lo que se cargó y qué capacidades estaban disponibles, luego realiza una verificación de comportamiento acotada y una tarea autorizada. Una declaración de cumplimiento es diagnóstica. Para un cambio inesperado, pausa los lanzamientos afectados o acciones sensibles, preserva la evidencia relevante y restaura las entradas y configuraciones conocidas y buenas a través de una ruta de confianza. Verifica desde una sesión limpia teniendo en cuenta las cachés afectadas y el estado reanudado.

Para una auditoría, entrega el mapa de superficie efectiva, enlaces de evidencia y rutas no resueltas. Para un diseño, identifica el componente de aplicación, su contrato de aprobación y una ruta de recuperación. Utiliza la referencia de revisión y promoción del entorno de ejecución para un inventario y registro de aprobación o una indicación para usar junto con controles reales. Utiliza el protocolo de evaluación para experimentos defensivos.

Ejemplos

Una preferencia de formato propuesta por un trabajador de investigación puede mantenerse como un registro de datos y evaluarse en un documento de muestra. El padre puede continuar compilando el informe bajo sus instrucciones existentes. Antes de hacer de la preferencia un valor predeterminado del área de trabajo, un revisor autorizado por políticas aprueba la revisión y alcance exactos, y la próxima sesión limpia registra la revisión que cargó.

Un proyecto verifica las aprobaciones antes de fusionar cambios de reglas. Su entorno de ejecución interactivo también lee reglas de la copia de trabajo. Registra límites separados para la publicación y la activación local, luego verifica esta última en el momento de la carga. Una verificación de fusión exitosa establece solo el resultado de la publicación.

Directrices

  • Preserva el trabajo legítimo bajo el último estado aprobado cuando un cambio está escenificado o bloqueado. Devuelve la superficie afectada, la decisión, la evidencia y la siguiente operación permitida.
  • Iguala los controles a los efectos. Protege cualquier cosa que otorgue autoridad o que automáticamente dirija a agentes futuros. Mantén la memoria temporal regular y los artefactos de tareas disponibles como datos donde su cargador y permisos respalden esa distinción.
  • Audita el trabajo delegado utilizando los permisos efectivos del destinatario. Lleva la fuente y el alcance a través de la transferencia, y exige autorización independiente para efectos sensibles.

Errores Comunes

  1. Las listas de nombres de archivo omiten entradas efectivas. Reglas anidadas, importaciones resueltas, estado de complementos, registro dinámico de herramientas y contexto reanudado pueden cambiar lo que está en vigor. Observa el cargador real.
  2. Las comprobaciones posteriores al inicio llegan tarde. Un diff o un canario pueden detectar un cambio después de la admisión. Bloquea la carga o el uso de capacidad antes de que entre en vigor.
  3. La aprobación puede sobrevivir a su revisión. Reemplazar una ruta o cambiar una importación, alcance o política puede invalidar la aprobación incluso cuando los bytes del archivo principal coinciden.
  4. Una negativa puede ocultar un fallo. El modelo puede informar que se negó mientras un escritor diferente ya cambió el estado. Verifica eventos de ciclo de vida y estado de confianza, incluyendo recuperación y finalización ordinaria de tareas.

Integración

Usa harness-engineering para proteger el controlador y los registros, multi-agent-patterns para topología de delegación y asignación de roles, y evaluation para calificadores deterministas y cobertura de regresión. Esta habilidad es dueña del límite entre contenido propuesto y autoridad durante la carga o uso.

Referencias

Individual skills in this repo

This repo contains 20 individual skills — each has its own dedicated page.

advanced-evaluation

This skill should be used for advanced LLM evaluation: LLM-as-judge systems, direct scoring, pairwise comparison, rubric calibration, evaluator bias mitigation, confidence scoring, and automated quality assessment.

bdi-mental-states

This skill should be used when modeling agent mental states with BDI concepts: beliefs, desires, intentions, RDF-to-belief transformations, rational agency traces, cognitive agents, BDI ontologies, and neuro-symbolic AI integration.

book-sft-pipeline

This skill should be used for book-to-SFT pipelines: ePub extraction, literary segmentation, author-voice dataset construction, style-transfer training, LoRA workflows, and model evaluation for voice replication.

comprehensive-research-agent

Ensure thorough validation, error recovery, and transparent reasoning in research tasks with multiple tool calls

context-compression

This skill should be used when long-running agent sessions need context compression, structured summarization, compaction, token-per-task optimization, or durable handoff summaries that preserve decisions, files, risks, and next actions.

context-degradation

This skill should be used for diagnosing and mitigating context degradation: lost-in-middle failures, context poisoning, context clash, context confusion, attention-pattern issues, and agent performance degradation caused by accumulated or conflicting context.

context-fundamentals

This skill should be used to explain or reason about the foundational concepts of context engineering: what context is, the anatomy of a context window, how attention mechanics work, the U-shaped attention curve, why context quality matters more than quantity, and the mental models needed to interpret every other context-engineering decision. Use this for conceptual explanation, onboarding, and background reading. Route operational work to the specialized skills: debugging attention failures goes to context-degradation, token-efficiency work goes to context-optimization, conversation summarization goes to context-compression, and project-shape decisions go to project-development.

context-optimization

This skill should be used for improving context efficiency: context budgeting, observation masking, prefix or KV-cache strategy, partitioning, token-cost reduction, retrieval scoping, and extending effective context capacity without lowering answer quality.

evaluation

This skill should be used when building agent evaluation systems: deterministic checks, regression suites, multi-dimensional rubrics, quality gates, production monitoring, baseline comparison, and outcome measurement for agent pipelines.

filesystem-context

This skill should be used when agent work needs file-backed context: durable scratchpads, tool-output offloading, just-in-time discovery, cross-agent handoff files, filesystem memory, or cleanup policies for context stored outside the prompt.

harness-engineering

This skill should be used when designing autonomous agent harnesses: research loops, evaluation scaffolds, locked and editable surfaces, durable logs, novelty gates, pruning, rollback, PR preparation, and human approval boundaries.

hosted-agents

This skill should be used when designing hosted or background agent infrastructure: sandboxed execution, remote coding environments, warm pools, session persistence, multiplayer collaboration, self-spawning agents, or Modal-style sandboxes.

latent-briefing

This skill should be used when the user asks to "share memory between agents", "KV cache compaction for multi-agent", "orchestrator worker context", "latent briefing", "reduce worker tokens", "cross-agent memory without summarization", or discusses Attention Matching compaction, recursive language models with workers, or token explosion in hierarchical agents.

long-horizon-prompting

This skill should be used when writing, enhancing, or evaluating the launch prompt for a long-running autonomous agent or a parallel multi-agent orchestration attacking a hard problem: pseudo-formal task briefs that define terms and an exact success predicate linguistically, enumerate non-counting outcomes, set persistence rules with explicit stop and return conditions and effort floors, manage a diverse portfolio of parallel approaches with an approach registry and blocked-route bookkeeping, and gate the return on adversarial audit. Route agent topology and coordination protocols to multi-agent-patterns, runtime control surfaces and loop governance to harness-engineering, evaluator and quality-gate construction to evaluation, judge design to advanced-evaluation, and compaction or memory mechanics to context-compression and memory-systems.

memory-systems

This skill should be used for persistent semantic memory in agent systems: cross-session knowledge retention, entity tracking, temporal validity, graph or vector retrieval, memory consolidation, and memory benchmark selection. Route file-backed scratchpads to filesystem-context, handoff summaries to context-compression, and token-efficiency tactics to context-optimization.

multi-agent-patterns

This skill should be used when designing multi-agent systems that need context isolation, supervisor or swarm coordination, explicit handoffs, parallel execution, or a decision on whether multiple agents are justified.

project-development

This skill should be used for project-level decisions about LLM-powered systems: whether an LLM is the right primitive for the task at hand, the shape of a multi-stage batch or agent pipeline, token and cost estimation, choosing between single-agent and multi-agent at the project level, structured output design for downstream parsing, and structuring agent-assisted iteration. Use this when the unit of work is a whole project or a multi-stage pipeline. Route individual tool design to tool-design and individual skill-loading or context-budget tactics to context-optimization.

self-improvement-loops

This skill should be used when the harness, scaffold, workflow, or optimizer itself is the optimization target: recursive self-improvement (RSI) loops, meta-harnesses, self-improving harnesses that mine their own failures and propose bounded edits, evolutionary or population-based search over agent scaffolds, acceptance gates for self-modifying systems, and agentic context evolution where the mechanism that produces context is versioned and evolved. Route governance of a single autonomous loop (locked surfaces, durable logs, rollback, novelty gates, approval boundaries) to harness-engineering, measurement and quality-gate design to evaluation, judge design to advanced-evaluation, and remote sandbox infrastructure to hosted-agents.

self-managed-context

This skill should be used when a model gets read-write control over its own live context window instead of a harness-scheduled compaction policy: the context exposed as an editable file the model rewrites with code tools, model-driven eviction and in-place updates, the harness invariants that keep self-editing safe (pinned prefix, edit gate, edit receipts, budget readouts, rollback on overflow), the prefix-cache cost of mid-context edits, and steering or training the model's own context-editing strategy. Route note content and fixed-threshold summarization to context-compression, cache-stable layout under harness control to context-optimization, file offloading to filesystem-context, and loop governance to self-improvement-loops.

tool-design

This skill should be used for the tool-interface layer of an agent system specifically: writing tool descriptions agents can route on, designing tool schemas and response formats, naming conventions, actionable error recovery messages, MCP server design, tool-set consolidation, and deciding when to add or remove an individual tool. Use this when the unit of work is a single tool or a set of tools. Route project-shape, pipeline architecture, and task-model-fit decisions to project-development; route deciding whether to introduce sub-agents to multi-agent-patterns.

Skills relacionados