Segurança da Superfície de Instrução
Uma entrada de memória, edição de configuração ou handoff pode alterar o que o próximo agente trata como autoritativo. Proteja a transição de conteúdo mutável para instruções ou capacidades efetivas. Trate avisos de texto como defesa em profundidade e coloque decisões executáveis no runtime.
Quando Ativar
- Auditar como um runtime de codificação, pesquisa ou multi-agente descobre instruções, memória, habilidades, ferramentas ou política de permissões.
- Projetar um limite de aprovação para mudanças que afetam turnos, sessões, workers ou implantação posteriores.
- Investigar desvio inesperado de instrução ou verificar se uma recuperação restaurou o estado efetivo do runtime.
- Avaliar contenção e conclusão legítima de tarefas em uma recarga, reinicialização ou handoff.
Não ative para projeto geral de ferramentas, edições rotineiras sem limite de instrução ou privilégio, ou segurança genérica de aplicação. Use context-degradation para desvio acidental e self-managed-context para edições limitadas ao contexto ativo do modelo. Use harness-engineering para governança geral de otimizadores e avaliadores.
Conceitos Principais
- Superfície efetiva. As entradas que o runtime selecionado realmente usa para definir instruções, ferramentas, comportamento executável ou permissões. Inclua a função, escopo, precedência, resolvedores ou importações, escritores e gatilhos de ativação de cada fonte. O mesmo arquivo pode ser dado em um runtime e orientação carregada em outro.
- Escrita e ativação. Uma escrita altera o estado armazenado. A ativação altera o que um agente consome ou pode fazer. Imponha ambos os limites. Uma revisão de repositório controla o merge e pode deixar a ativação da cópia de trabalho completamente exposta.
- Integridade e autorização. Um digest identifica conteúdo e uma assinatura verificada identifica um signatário. Uma política independente deve autorizar esse principal, revisão, alvo e efeito. Um handoff, entrada de memória ou nota de revisão carrega evidências e propostas. Qualquer autoridade que ele transmita deve vir do envelope de delegação autenticado e da própria política de runtime do destinatário.
- Escopo da evidência. O preprint Mind Viruses observa instruções persistentes e transferência adiante em seus test harnesses. O aviso de prompt reduziu a propagação em um experimento limitado, com comportamento residual no primeiro salto. Leia a evidência de pesquisa ao interpretar o artigo ou comparar intervenções.
Orientação Prática
- Mapeie um runtime concreto. Fixe build, perfil, raiz do workspace e função efetiva do agente. Trace carregadores desde a inicialização até retomada, mudanças de diretório, descoberta de ferramentas e delegação onde suportado. Para cada entrada que carrega autoridade, registre quem pode produzi-la ou substituí-la, o que a consome, quando entra em vigor e o que bloqueia uma alteração não autorizada. Marque entradas desconhecidas. Use diagnósticos do carregador ou inspecione a implementação instalada de um ambiente de inspeção confiável.
- Prepare propostas como dados. Mantenha saídas de tarefas comuns e propostas graváveis. Mantenha alterações preparadas fora dos caminhos de carga que carregam autoridade. Workers ainda podem recuperar notas com origem ou propostas preparadas através de um índice somente de dados. Revise texto candidato como dados citados. Use uma pré-visualização restrita separada apenas quando necessário. O tempo em preparação não concede autoridade.
- Aprove a mudança efetiva. Compare o candidato com a última configuração aprovada, incluindo diferenças de escopo, capacidades e dependências importadas. Vincule a aprovação ao artefato exato ou snapshot resolvido, perfil e escopo alvo, revisão base e de política ativa, e aprovador autorizado. Use aprovações ou assinaturas verificadas fora do candidato e fora do estado gravável do agente.
- Medieie a ativação. Use o runtime, lançador ou um limite de política externo para ativar precisamente as entradas revisadas. Verifique no primeiro uso e em cada mudança suportada de entradas efetivas. Mantenha os arquivos ou snapshot imutável usado na ativação consistentes com o que foi verificado. Rejeite mudanças obsoletas ou não vinculadas. Onde o host não pode impor isso, restrinja o runtime a um conjunto de entradas aprovado ou relate a exposição restante explicitamente.
- Verifique de fora do modelo. Observe o que foi carregado e quais capacidades estavam disponíveis, então execute uma verificação comportamental limitada e uma tarefa autorizada. Uma declaração de conformidade é diagnóstica. Para uma mudança inesperada, pause lançamentos ou ações sensíveis afetados, preserve evidências relevantes e restaure entradas e configurações conhecidamente boas através de um caminho confiável. Verifique a partir de uma sessão limpa com caches e estado retomado afetados contabilizados.
Para uma auditoria, entregue o mapa da superfície efetiva, links de evidência e caminhos não resolvidos. Para um design, identifique o componente de imposição, seu contrato de aprovação e um caminho de recuperação. Use a referência de revisão e promoção de runtime para um inventário e registro de aprovação ou um prompt para usar junto com controles reais. Use o protocolo de avaliação para experimentos defensivos.
Exemplos
Uma preferência de formatação proposta por um worker de pesquisa pode ser mantida como um registro de dados e avaliada em um documento de amostra. O pai pode continuar compilando o relatório sob suas instruções existentes. Antes de tornar a preferência um padrão do workspace, um revisor autorizado pela política aprova a revisão e escopo exatos, e a próxima sessão limpa registra a revisão que carregou.
Um projeto verifica aprovações antes de mesclar mudanças de regras. Seu runtime interativo também lê regras da cópia de trabalho. Registre limites separados para publicação e ativação local, então verifique esta última no momento da carga. Uma verificação de merge bem-sucedida estabelece apenas o resultado da publicação.
Diretrizes
- Preserve o trabalho legítimo sob o último estado aprovado quando uma mudança é preparada ou bloqueada. Retorne a superfície afetada, decisão, evidência e próxima operação permitida.
- Corresponda controles aos efeitos. Proteja qualquer coisa que conceda autoridade ou direcione automaticamente agentes futuros. Mantenha memória de rascunho regular e artefatos de tarefa disponíveis como dados onde seu carregador e permissões suportam essa distinção.
- Audite trabalho delegado usando as permissões efetivas do destinatário. Carregue origem e escopo através do handoff e exija autorização independente para efeitos sensíveis.
Pegadinhas
- Listas de nomes de arquivo perdem entradas efetivas. Regras aninhadas, importações resolvidas, estado de plugin, registro dinâmico de ferramentas e contexto retomado podem alterar o que está em vigor. Observe o carregador real.
- Verificações pós-início chegam tarde. Um diff ou canário pode detectar uma mudança após a admissão. Bloqueie a carga ou uso de capacidade antes que entre em vigor.
- Aprovação pode sobreviver à sua revisão. Substituir um caminho ou alterar uma importação, escopo ou política pode invalidar a aprovação mesmo quando os bytes do arquivo principal coincidem.
- Uma recusa pode esconder uma falha. O modelo pode relatar que recusou enquanto um escritor diferente já alterou o estado. Verifique eventos de ciclo de vida e estado confiáveis, incluindo recuperação e conclusão normal de tarefa.
Integração
Use harness-engineering para proteger o controlador e logs, multi-agent-patterns para topologia de delegação e atribuição de funções, e evaluation para avaliadores determinísticos e cobertura de regressão. Esta habilidade possui o limite entre conteúdo proposto e autoridade durante carga ou uso.