Arquitetura de Agente BDI Normativo
Use este skill quando um agente precisar estar ciente de múltiplas normas, decidir quais adotar em ações e explicar por que uma violação deliberada foi menos pior que as alternativas.
Quando Usar
- Múltiplas regras, obrigações, proibições ou demandas de partes interessadas não podem ser satisfeitas simultaneamente.
- Um agente deve distinguir saber que uma norma existe de realmente escolher segui-la.
- Um sistema precisa justificar por que violou uma regra para satisfazer outro compromisso de maior risco.
- Você precisa de uma alternativa baseada em consequências para listas de prioridade fixas e frágeis.
- Uma arquitetura BDI precisa de uma maneira fundamentada para integrar raciocínio normativo sem transformar normas em sobreposições absolutas.
NÃO para Limites
Este skill não é a ferramenta principal para:
- Hierarquias de prioridade fixa onde a precedência correta nunca muda com o contexto.
- Satisfação de restrições pura onde qualquer solução satisfatória é boa o suficiente e violação de norma está fora do escopo.
- Ambientes regulatorios ou éticos que exigem não violação literal independentemente das consequências.
- Motores de regras de brinquedo que não mantêm crenças, compromissos ou explicações de violações deliberadas.
Modelos Mentais Principais
Reconhecimento Não é Internalização
Mantenha a Base de Normas Abstratas separada da Base de Instâncias de Normas. O agente pode detectar uma norma sem adotá-la. Essa separação é o que permite não conformidade deliberada e explicável, em vez de ignorância acidental.
Três Estados de Consistência
- Inconsistência forte: nenhum plano pode satisfazer ambos os compromissos.
- Consistência fraca: alguns planos funcionam, mas a flexibilidade futura diminui.
- Consistência forte: todos os planos relevantes permanecem compatíveis.
O caso de consistência fraca é onde reside a maior parte do julgamento real de design.
Classificação por Consequências
Quando normas entram em conflito, compare pacotes coerentes de compromissos por sua pior consequência downstream. O ponto não é maximizar a bondade média; é escolher o pior caso menos ruim entre futuros incompatíveis.
Normas como Desejos Hipotéticos
Obrigações e proibições adotadas tornam-se pressões derrotáveis dentro da maquinaria BDI, em vez de um sistema de sobreposição separado. Isso mantém o raciocínio normativo dentro do mesmo loop deliberativo que a busca de objetivos comuns.
Pontos de Decisão
Veja o fluxo de adoção e conflito em diagrams/01_flowchart_decision-points.md.
flowchart TD
A[Norm detected] --> B{Groundable in current beliefs?}
B -->|No| C[Keep abstract and monitor]
B -->|Yes| D[Check consistency]
D -->|Strongly inconsistent| E[Compare conflict bundles by worst consequence]
D -->|Weakly consistent| F[Evaluate flexibility cost]
D -->|Strongly consistent| G[Adopt norm]
E --> H[Choose least-bad worst case]
F --> I{Adoption still worth it?}
I -->|Yes| G
I -->|No| J[Reject or defer]
H --> G
1. Decidir se Adota uma Norma
- Se uma nova norma for fortemente inconsistente com os compromissos atuais, a adoção requer descartar ou revisar algo.
- Se for fracamente consistente, torne o custo de flexibilidade explícito antes de adotá-la.
- Se for fortemente consistente, a adoção é de baixo risco e geralmente deve ser automática.
2. Decidir Como Resolver um Conflito
- Gere subconjuntos não conflitantes máximos em vez de comparar normas uma a uma isoladamente.
- Construa planos para cada subconjunto e identifique a pior consequência em cada futuro.
- Escolha o subconjunto cujo pior caso seja menos ruim, depois registre o motivo da violação escolhida.
3. Decidir Quando Instanciar uma Norma Abstrata
- Instancie apenas quando as crenças atuais puderem vincular variáveis e satisfazer condições de ativação.
- Mantenha normas não resolvidas visíveis quando o conhecimento estiver incompleto, em vez de fingir que não se aplicam.
- Reavalie normas abstratas pendentes após atualizações de crenças significativas.
Modos de Falha
1. Impasse por Superadoção
Sintomas: o agente continua internalizando normas até que nenhuma ação viável reste. Regra de detecção: o espaço de ação ativo encolhe mais rápido do que os conflitos são resolvidos. Recuperação: force uma revisão de consistência antes que qualquer norma adicional entre na Base de Instâncias de Normas.
2. Violação Oculta
Sintomas: o agente viola uma norma, mas não consegue afirmar que escolheu fazê-lo. Regra de detecção: explicações post-hoc omitem a norma rejeitada ou tratam a violação como se nunca tivesse existido. Recuperação: persista normas rejeitadas mas reconhecidas e registre a comparação de consequências vencedora.
3. Colapso de Consistência Binária
Sintomas: a lógica de adoção trata cada norma como totalmente compatível ou impossível. Regra de detecção: consistência fraca nunca aparece na arquitetura ou nos registros. Recuperação: adicione um ramo explícito de consistência fraca e modele a perda de flexibilidade diretamente.
4. Fragilidade de Prioridade Fixa
Sintomas: a mesma pilha de prioridade global produz escolhas obviamente erradas em casos extremos. Regra de detecção: os resultados do conflito mudam apenas quando a tabela de prioridade muda, nunca quando as consequências mudam. Recuperação: mude de precedência rígida para geração de subconjuntos mais classificação por consequências.
5. Arquitetura de Canal Lateral de Normas
Sintomas: o tratamento de normas reside em um módulo de execução separado que substitui a deliberação BDI tardiamente na execução. Regra de detecção: a lógica normativa não pode ser explicada usando crenças, desejos e intenções. Recuperação: transforme normas adotadas em pressões deliberativas internas e as encaminhe através da arquitetura principal.
Exemplos Práticos
Exemplo 1: Privacidade vs. Personalização
Um agente de serviço conhece uma norma que proíbe o uso direto de dados dos clientes e uma obrigação de melhorar a experiência do usuário. O sistema encontra consistência fraca: resumos comportamentais agregados preservam a maior parte da personalização enquanto limitam o dano à privacidade. O skill mantém ambas as normas visíveis, instancia apenas a obrigação de segurança agregada e registra por que o uso direto de dados foi rejeitado.
Exemplo 2: Robô e Bebê
Um robô cuidador enfrenta uma obrigação de manter um bebê vivo e uma proibição de desenvolver amor por humanos. Nenhum plano satisfaz ambos. O skill gera dois subconjuntos coerentes, compara as piores consequências e viola deliberadamente a proibição de design porque a morte é um pior resultado do que o apego proibido. A violação é explícita e reportável.
Portões de Qualidade
- A arquitetura distingue normas detectadas de normas adotadas.
- As verificações de consistência incluem inconsistência forte, consistência fraca e consistência forte.
- A resolução de conflitos compara subconjuntos coerentes, não apenas normas isoladas.
- Violações escolhidas são registradas com comparações explícitas de consequências.
- Normas abstratas podem permanecer pendentes quando a fundamentação de crenças está incompleta.
Arquivos de Referência
| Arquivo | Carregar quando |
|---|---|
references/separation-of-norm-recognition-and-norm-internalization.md | Projetando limites ANB vs. NIB |
references/three-types-of-consistency-for-norm-adoption.md | Implementando verificações de adoção e lógica de custo de flexibilidade |
references/normative-conflict-resolution-through-consequence-ranking.md | Construindo ou revisando resolução de conflitos baseada em consequências |
references/norm-instantiation-through-belief-grounding.md | Fundamentando normas abstratas em instâncias específicas de contexto |
references/maximal-non-conflicting-subsets-for-action-selection.md | Computando pacotes de opções coerentes sob conflito |
references/desire-internalization-as-norm-adoption-mechanism.md | Integrando normas ao manuseio de desejos e intenções BDI |
Anti-Padrões
- Codificar uma única ordem de prioridade e chamar isso de "ética."
- Auto-adotar toda norma detectada e descobrir contradições apenas no momento da execução.
- Tratar consistência fraca como se fosse o mesmo que consistência forte.
- Comparar violações por utilidade média enquanto ignora piores casos catastróficos.