¿Qué hace Arquitectura de Agente BDI Normativo?
Usa esta habilidad cuando un agente deba mantenerse consciente de múltiples normas, decidir cuáles adoptar para la acción y explicar por qué una violación deliberada fue menos mala que las alternativas.
Cuándo Usarlo
- Múltiples reglas, obligaciones, prohibiciones o demandas de partes interesadas no pueden satisfacerse todas juntas.
- Un agente debe distinguir entre saber que una norma existe y elegir realmente seguirla.
- Un sistema necesita justificar por qué violó una regla para satisfacer otro compromiso de mayor riesgo.
- Necesitas una alternativa basada en consecuencias a las frágiles listas de prioridades codificadas.
- Una arquitectura BDI necesita una forma fundamentada de integrar el razonamiento normativo sin convertir las normas en anulaciones absolutas.
NO para Límites
Esta habilidad no es la herramienta principal para:
- Jerarquías de prioridad fija donde la precedencia correcta nunca cambia con el contexto.
- Satisfacción de restricciones pura donde cualquier solución satisfactoria es suficiente y la violación de normas está fuera del alcance.
- Entornos regulatorios o éticos que requieren la no violación literal independientemente de las consecuencias.
- Motores de reglas de juguete que no mantienen creencias, compromisos o explicaciones de violaciones deliberadas.
Modelos Mentales Centrales
El Reconocimiento No Es Internalización
Mantén la Base de Normas Abstractas separada de la Base de Instancias de Normas. El agente puede detectar una norma sin adoptarla. Esa separación es lo que permite el incumplimiento deliberado y explicable, en lugar de la ignorancia accidental.
Tres Estados de Consistencia
- Inconsistencia fuerte: ningún plan puede satisfacer ambos compromisos.
- Consistencia débil: algunos planes funcionan, pero la flexibilidad futura se reduce.
- Consistencia fuerte: todos los planes relevantes siguen siendo compatibles.
El caso de consistencia débil es donde reside la mayor parte del juicio de diseño real.
Clasificación de Consecuencias
Cuando las normas entran en conflicto, compara paquetes coherentes de compromisos por su peor consecuencia posterior. El objetivo no es maximizar la bondad promedio; es elegir el peor caso menos malo entre futuros incompatibles.
Las Normas como Deseos Hipotéticos
Las obligaciones y prohibiciones adoptadas se convierten en presiones revocables dentro de la maquinaria BDI, en lugar de un sistema de anulación separado. Eso mantiene el razonamiento normativo dentro del mismo bucle deliberativo que la búsqueda de objetivos ordinaria.
Puntos de Decisión
Consulta el flujo de adopción y conflicto en diagrams/01_flowchart_decision-points.md.
flowchart TD
A[Norma detectada] --> B{¿Fundamentable en creencias actuales?}
B -->|No| C[Mantener abstracta y monitorear]
B -->|Sí| D[Verificar consistencia]
D -->|Fuertemente inconsistente| E[Comparar paquetes de conflicto por peor consecuencia]
D -->|Débilmente consistente| F[Evaluar costo de flexibilidad]
D -->|Fuertemente consistente| G[Adoptar norma]
E --> H[Elegir el peor caso menos malo]
F --> I{¿Sigue valiendo la pena la adopción?}
I -->|Sí| G
I -->|No| J[Rechazar o aplazar]
H --> G
1. Decidir si Adoptar una Norma
- Si una nueva norma es fuertemente inconsistente con los compromisos actuales, la adopción requiere abandonar o revisar algo más.
- Si es débilmente consistente, haz explícito el costo de flexibilidad antes de adoptarla.
- Si es fuertemente consistente, la adopción es de bajo riesgo y normalmente debería ser automática.
2. Decidir Cómo Resolver un Conflicto
- Genera subconjuntos maximales no conflictivos en lugar de comparar normas una por una de forma aislada.
- Construye planes para cada subconjunto e identifica la peor consecuencia en cada futuro.
- Elige el subconjunto cuyo peor caso sea menos malo, luego registra la razón de la violación elegida.
3. Decidir Cuándo Instanciar una Norma Abstracta
- Instancia solo cuando las creencias actuales puedan vincular variables y satisfacer las condiciones de activación.
- Mantén visibles las normas no resueltas cuando el conocimiento esté incompleto, en lugar de fingir que no aplican.
- Reevalúa las normas abstractas pendientes después de actualizaciones significativas de creencias.
Modos de Falla
1. Bloqueo por Sobreadopción
Síntomas: el agente sigue internalizando normas hasta que no queda ninguna acción factible.
Regla de detección: el espacio de acción activo se reduce más rápido de lo que se resuelven los conflictos.
Recuperación: fuerza una revisión de consistencia antes de que cualquier norma adicional entre en la Base de Instancias de Normas.
2. Violación Oculta
Síntomas: el agente viola una norma pero no puede afirmar que eligió hacerlo.
Regla de detección: las explicaciones posteriores omiten la norma rechazada o tratan la violación como si nunca hubiera existido.
Recuperación: persiste las normas rechazadas pero reconocidas y registra la comparación de consecuencias ganadora.
3. Colapso de Consistencia Binaria
Síntomas: la lógica de adopción trata cada norma como totalmente compatible o imposible.
Regla de detección: la consistencia débil nunca aparece en la arquitectura ni en los registros.
Recuperación: añade una rama explícita de consistencia débil y modela la pérdida de flexibilidad directamente.
4. Fragilidad de Prioridad Fija
Síntomas: la misma pila de prioridad global produce elecciones obviamente incorrectas en casos límite.
Regla de detección: los resultados de conflicto cambian solo cuando cambia la tabla de prioridades, nunca cuando cambian las consecuencias.
Recuperación: pasa de la precedencia rígida a la generación de subconjuntos más clasificación de consecuencias.
5. Arquitectura de Canal Lateral de Normas
Síntomas: el manejo de normas reside en un módulo de cumplimiento separado que anula la deliberación BDI tarde en la ejecución.
Regla de detección: la lógica normativa no puede explicarse usando creencias, deseos e intenciones.
Recuperación: transforma las normas adoptadas en presiones deliberativas internas y enrutarlas a través de la arquitectura principal.
Ejemplos Trabajados
Ejemplo 1: Privacidad vs. Personalización
Un agente de servicio conoce una norma que prohíbe el uso directo de datos a nivel de cliente y una obligación de mejorar la experiencia del usuario. El sistema encuentra consistencia débil: los resúmenes de comportamiento agregados preservan la mayor parte de la personalización mientras limitan el daño a la privacidad. La habilidad mantiene ambas normas visibles, instancia solo la obligación segura en forma agregada y registra por qué se rechazó el uso directo de datos.
Ejemplo 2: Robot y Bebé
Un robot cuidador enfrenta una obligación de mantener vivo a un bebé y una prohibición de desarrollar amor por los humanos. Ningún plan satisface ambas. La habilidad genera dos subconjuntos coherentes, compara las peores consecuencias y viola deliberadamente la prohibición de diseño porque la muerte es un resultado peor que el apego prohibido. La violación es explícita y reportable.
Puertas de Calidad
- La arquitectura distingue las normas detectadas de las normas adoptadas.
- Las verificaciones de consistencia incluyen inconsistencia fuerte, consistencia débil y consistencia fuerte.
- La resolución de conflictos compara subconjuntos coherentes, no solo normas aisladas.
- Las violaciones elegidas se registran con comparaciones explícitas de consecuencias.
- Las normas abstractas pueden permanecer pendientes cuando la fundamentación de creencias está incompleta.
Archivos de Referencia
| Archivo | Cargar cuando |
|---|---|
references/separation-of-norm-recognition-and-norm-internalization.md | Diseñando límites entre ANB y NIB |
references/three-types-of-consistency-for-norm-adoption.md | Implementando verificaciones de adopción y lógica de costo de flexibilidad |
references/normative-conflict-resolution-through-consequence-ranking.md | Construyendo o revisando resolución de conflictos basada en consecuencias |
references/norm-instantiation-through-belief-grounding.md | Fundamentando normas abstractas en instancias específicas del contexto |
references/maximal-non-conflicting-subsets-for-action-selection.md | Computando paquetes de opciones coherentes bajo conflicto |
references/desire-internalization-as-norm-adoption-mechanism.md | Integrando normas en el manejo de deseos e intenciones BDI |
Anti-patrones
- Codificar un único orden de prioridad y llamarlo "ética".
- Adoptar automáticamente cada norma detectada y descubrir contradicciones solo en tiempo de ejecución.
- Tratar la consistencia débil como si fuera lo mismo que la consistencia fuerte.
- Comparar violaciones por utilidad promedio mientras se ignoran los peores casos catastróficos.