curiositech/windags-skills

Normative BDI-Agenten-Architektur

Verwenden Sie diesen Skill, wenn ein Agent sich mehrerer Normen bewusst sein muss, entscheiden soll, welche er in sein Handeln übernimmt, und erklären können soll, warum eine bewusste Verletzung weniger schlimm war als die Alternativen.

Wann zu verwenden

• Mehrere Regeln, Verpflichtungen, Verbote oder Stakeholder-Anforderungen können nicht gleichzeitig erfüllt werden.
• Ein Agent muss unterscheiden, ob er weiß, dass eine Norm existiert, oder ob er sich tatsächlich entscheidet, ihr zu folgen.
• Ein System muss rechtfertigen, warum es eine Regel verletzt hat, um einer anderen, gewichtigeren Verpflichtung nachzukommen.
• Sie benötigen eine konsequenzbasierte Alternative zu starren, fest codierten Prioritätenlisten.
• Eine BDI-Architektur benötigt eine prinzipielle Möglichkeit, normatives Denken zu integrieren, ohne Normen in absolute Überschreibungen zu verwandeln.

NICHT für Grenzen

Dieser Skill ist nicht das primäre Werkzeug für:

• Feste Prioritätshierarchien, bei denen die korrekte Rangfolge sich nie mit dem Kontext ändert.
• Reine Randbedingungserfüllung, bei der jede erfüllende Lösung gut genug ist und eine Normverletzung außerhalb des Rahmens liegt.
• Regulierungs- oder Ethikumgebungen, die eine wörtliche Nichteinhaltung unabhängig von den Konsequenzen erfordern.
• Spielzeug-Regel-Engines, die keine Überzeugungen, Verpflichtungen oder Erklärungen für bewusste Verstöße aufrechterhalten.

Kernkonzepte

Erkennung ist nicht Internalisierung

Halten Sie die Abstrakte Normbasis getrennt von der Norminstanzbasis. Der Agent kann eine Norm erkennen, ohne sie zu übernehmen. Diese Trennung ermöglicht eine bewusste, erklärbare Nichteinhaltung anstelle von versehentlicher Unkenntnis.

Drei Konsistenzzustände

• Starke Inkonsistenz: Kein Plan kann beide Verpflichtungen erfüllen.
• Schwache Konsistenz: Manche Pläne funktionieren, aber die zukünftige Flexibilität nimmt ab.
• Starke Konsistenz: Alle relevanten Pläne bleiben kompatibel.

Der Fall der schwachen Konsistenz ist der Ort, an dem das meiste echte Design-Urteilsvermögen liegt.

Konsequenzen-Ranking

Wenn Normen kollidieren, vergleichen Sie kohärente Bündel von Verpflichtungen anhand ihrer schlimmsten nachgelagerten Konsequenz. Es geht nicht darum, die durchschnittliche Güte zu maximieren, sondern darum, den am wenigsten schlimmen schlechtesten Fall unter inkompatiblen Zukünften zu wählen.

Normen als hypothetische Wünsche

Übernommene Gebote und Verbote werden zu anfechtbaren Drücken innerhalb der BDI-Mechanik, anstatt eines separaten Überschreibungssystems. Dies hält das normative Denken in derselben deliberativen Schleife wie die normale Zielverfolgung.

Entscheidungspunkte

Siehe den Übernahme- und Konfliktfluss in diagrams/01_flowchart_decision-points.md.

flowchart TD
  A[Norm erkannt] --> B{In aktuellen Überzeugungen begründbar?}
  B -->|Nein| C[Abstrakt halten und überwachen]
  B -->|Ja| D[Konsistenz prüfen]
  D -->|Stark inkonsistent| E[Konfliktbündel nach schlimmster Konsequenz vergleichen]
  D -->|Schwach konsistent| F[Flexibilitätskosten bewerten]
  D -->|Stark konsistent| G[Norm übernehmen]
  E --> H[Am wenigsten schlimmen schlechtesten Fall wählen]
  F --> I{Lohnt sich die Übernahme noch?}
  I -->|Ja| G
  I -->|Nein| J[Ablehnen oder verschieben]
  H --> G

1. Entscheiden, ob eine Norm übernommen werden soll

• Wenn eine neue Norm stark inkonsistent mit den aktuellen Verpflichtungen ist, erfordert die Übernahme das Aufgeben oder Überarbeiten von etwas anderem.
• Wenn sie schwach konsistent ist, machen Sie die Flexibilitätskosten explizit, bevor Sie sie übernehmen.
• Wenn sie stark konsistent ist, ist die Übernahme mit geringem Risiko verbunden und sollte in der Regel automatisch erfolgen.

2. Entscheiden, wie ein Konflikt gelöst werden soll

• Erzeugen Sie maximale, nicht-konfligierende Teilmengen, anstatt Normen isoliert einzeln zu vergleichen.
• Erstellen Sie Pläne für jede Teilmenge und identifizieren Sie die schlimmste Konsequenz in jeder Zukunft.
• Wählen Sie die Teilmenge, deren schlechtester Fall am wenigsten schlimm ist, und zeichnen Sie den Grund für die gewählte Verletzung auf.

3. Entscheiden, wann eine abstrakte Norm instanziiert werden soll

• Instanziieren Sie nur, wenn aktuelle Überzeugungen Variablen binden und Aktivierungsbedingungen erfüllen können.
• Halten Sie ungelöste Normen sichtbar, wenn das Wissen unvollständig ist, anstatt so zu tun, als ob sie nicht gelten.
• Bewerten Sie ausstehende abstrakte Normen nach sinnvollen Überzeugungsaktualisierungen neu.

Fehlermodi

1. Übernahme-Totalsperre

Symptome: Der Agent internalisiert so viele Normen, dass keine machbare Handlung mehr übrig bleibt. Erkennungsregel: Der aktive Handlungsraum schrumpft schneller, als Konflikte gelöst werden. Wiederherstellung: Erzwingen Sie eine Konsistenzprüfung, bevor eine weitere Norm in die Norminstanzbasis eintritt.

2. Versteckte Verletzung

Symptome: Der Agent verletzt eine Norm, kann aber nicht angeben, dass er dies bewusst getan hat. Erkennungsregel: Post-hoc-Erklärungen lassen die abgelehnte Norm aus oder behandeln die Verletzung, als ob sie nie existiert hätte. Wiederherstellung: Bewahren Sie abgelehnte, aber erkannte Normen auf und protokollieren Sie den gewinnenden Konsequenzenvergleich.

3. Binärer Konsistenzkollaps

Symptome: Die Übernahmelogik behandelt jede Norm entweder als vollständig kompatibel oder unmöglich. Erkennungsregel: Schwache Konsistenz erscheint nie in der Architektur oder den Protokollen. Wiederherstellung: Fügen Sie einen expliziten Zweig für schwache Konsistenz hinzu und modellieren Sie den Flexibilitätsverlust direkt.

4. Starrheit durch feste Priorität

Symptome: Derselbe globale Prioritätsstapel erzeugt in Randfällen offensichtlich falsche Entscheidungen. Erkennungsregel: Konfliktergebnisse ändern sich nur, wenn sich die Prioritätstabelle ändert, nie, wenn sich die Konsequenzen ändern. Wiederherstellung: Wechseln Sie von starrer Rangfolge zu Teilmengenerzeugung plus Konsequenzen-Ranking.

5. Norm-Seitenkanal-Architektur

Symptome: Die Normverwaltung befindet sich in einem separaten Durchsetzungsmodul, das die BDI-Deliberation spät in der Ausführung überschreibt. Erkennungsregel: Normlogik kann nicht mit Überzeugungen, Wünschen und Absichten erklärt werden. Wiederherstellung: Wandeln Sie übernommene Normen in interne deliberative Drücke um und leiten Sie sie durch die Hauptarchitektur.

Ausgearbeitete Beispiele

Beispiel 1: Datenschutz vs. Personalisierung

Ein Dienstagent kennt eine Norm, die die direkte Nutzung von Kundendaten verbietet, und eine Verpflichtung, die Benutzererfahrung zu verbessern. Das System findet schwache Konsistenz: Aggregierte Verhaltenszusammenfassungen bewahren die meiste Personalisierung, während sie den Datenschutzschaden begrenzen. Der Skill hält beide Normen sichtbar, instanziiert nur die aggregierte sichere Verpflichtung und zeichnet auf, warum die direkte Datennutzung abgelehnt wurde.

Beispiel 2: Roboter und Baby

Ein Pflegeroboter steht vor der Verpflichtung, ein Baby am Leben zu erhalten, und einem Verbot, Liebe für Menschen zu entwickeln. Kein Plan erfüllt beides. Der Skill erzeugt zwei kohärente Teilmengen, vergleicht die schlimmsten Konsequenzen und verletzt bewusst das Entwicklungsverbot, weil der Tod ein schlimmeres Ergebnis ist als die verbotene Bindung. Die Verletzung ist explizit und berichtbar.

Qualitätstore

• Die Architektur unterscheidet erkannte Normen von übernommenen Normen.
• Konsistenzprüfungen umfassen starke Inkonsistenz, schwache Konsistenz und starke Konsistenz.
• Die Konfliktlösung vergleicht kohärente Teilmengen, nicht nur isolierte Normen.
• Gewählte Verletzungen werden mit expliziten Konsequenzenvergleichen protokolliert.
• Abstrakte Normen können ausstehend bleiben, wenn die Überzeugungsverankerung unvollständig ist.

Referenzdateien

Datei	Laden, wenn
references/separation-of-norm-recognition-and-norm-internalization.md	ANB- vs. NIB-Grenzen entwerfen
references/three-types-of-consistency-for-norm-adoption.md	Übernahmeprüfungen und Flexibilitätskostenlogik implementieren
references/normative-conflict-resolution-through-consequence-ranking.md	Konsequenzbasierte Konfliktlösung aufbauen oder überprüfen
references/norm-instantiation-through-belief-grounding.md	Abstrakte Normen in kontextspezifische Instanzen einbetten
references/maximal-non-conflicting-subsets-for-action-selection.md	Kohärente Optionsbündel unter Konflikt berechnen
references/desire-internalization-as-norm-adoption-mechanism.md	Normen in BDI-Wunsch- und Absichtsverarbeitung integrieren

Anti-Patterns

• Eine einzelne Prioritätsreihenfolge fest codieren und dies "Ethik" nennen.
• Jede erkannte Norm automatisch übernehmen und Widersprüche erst zur Ausführungszeit entdecken.
• Schwache Konsistenz so behandeln, als wäre sie dasselbe wie starke Konsistenz.
• Verletzungen nach durchschnittlichem Nutzen vergleichen, während katastrophale schlechteste Fälle ignoriert werden.