규범적 BDI 에이전트 아키텍처
에이전트가 여러 규범을 인식하고, 어떤 규범을 행동에 채택할지 결정하며, 의도적 위반이 대안보다 왜 덜 나쁜지 설명해야 할 때 이 스킬을 사용하십시오.
사용 시기
- 여러 규칙, 의무, 금지 또는 이해관계자 요구를 모두 동시에 만족시킬 수 없습니다.
- 에이전트가 규범의 존재를 아는 것과 실제로 따르기로 선택하는 것을 구분해야 합니다.
- 시스템이 하나의 규칙을 위반하여 더 높은 이해관계의 약속을 충족시킨 이유를 정당화해야 합니다.
- 취약한 하드코딩된 우선순위 목록에 대한 결과 기반 대안이 필요합니다.
- BDI 아키텍처가 규범을 절대적 재정의로 전환하지 않고 규범적 추론을 통합하는 원칙적인 방법이 필요합니다.
NOT 경계
이 스킬은 다음을 위한 주요 도구가 아닙니다:
- 올바른 우선순위가 컨텍스트에 따라 변하지 않는 고정 우선순위 계층 구조.
- 만족하는 솔루션이면 충분하고 규범 위반이 범위를 벗어난 순수 제약 만족.
- 결과에 관계없이 문자 그대로의 비위반을 요구하는 규제 또는 윤리적 환경.
- 신념, 약속 또는 의도적 위반에 대한 설명을 유지하지 않는 장난감 규칙 엔진.
핵심 정신 모델
인식은 내면화가 아니다
추상 규범 기반과 규범 인스턴스 기반을 분리하십시오. 에이전트는 규범을 채택하지 않고 감지할 수 있습니다. 이러한 분리는 우발적 무지 대신 의도적이고 설명 가능한 비준수를 가능하게 합니다.
세 가지 일관성 상태
- 강한 불일치: 두 약속을 모두 만족시킬 수 있는 계획이 없습니다.
- 약한 일관성: 일부 계획은 작동하지만 미래의 유연성이 줄어듭니다.
- 강한 일관성: 모든 관련 계획이 호환 가능합니다.
약한 일관성 사례는 대부분의 실제 설계 판단이 이루어지는 곳입니다.
결과 순위 매기기
규범이 충돌할 때, 최악의 다운스트림 결과로 약속의 일관된 묶음을 비교하십시오. 평균적인 좋음을 최대화하는 것이 아니라 호환되지 않는 미래 중에서 가장 덜 나쁜 최악의 경우를 선택하는 것입니다.
가상의 욕구로서의 규범
채택된 의무와 금지는 별도의 재정의 시스템이 아닌 BDI 메커니즘 내에서 패배 가능한 압력이 됩니다. 이는 규범적 추론을 일반 목표 추구와 동일한 숙고 루프 안에 유지합니다.
의사결정 지점
채택 및 갈등 흐름은 diagrams/01_flowchart_decision-points.md에서 확인하십시오.
flowchart TD
A[규범 감지] --> B{현재 신념에 근거 가능?}
B -->|아니오| C[추상 상태 유지 및 모니터링]
B -->|예| D[일관성 확인]
D -->|강한 불일치| E[갈등 묶음을 최악 결과로 비교]
D -->|약한 일관성| F[유연성 비용 평가]
D -->|강한 일관성| G[규범 채택]
E --> H[가장 덜 나쁜 최악의 경우 선택]
F --> I{채택이 여전히 가치 있음?}
I -->|예| G
I -->|아니오| J[거부 또는 연기]
H --> G
1. 규범 채택 여부 결정
- 새로운 규범이 현재 약속과 강하게 불일치하면 채택하려면 다른 것을 포기하거나 수정해야 합니다.
- 약하게 일관성이 있으면 채택하기 전에 유연성 비용을 명시적으로 만드십시오.
- 강하게 일관성이 있으면 채택은 저위험이며 일반적으로 자동이어야 합니다.
2. 갈등 해결 방법 결정
- 규범을 개별적으로 비교하는 대신 최대 비충돌 부분집합을 생성하십시오.
- 각 부분집합에 대한 계획을 수립하고 각 미래에서 최악의 결과를 식별하십시오.
- 최악의 경우가 가장 덜 나쁜 부분집합을 선택한 다음 선택한 위반 이유를 기록하십시오.
3. 추상 규범 인스턴스화 시기 결정
- 현재 신념이 변수를 바인딩하고 활성화 조건을 만족시킬 수 있을 때만 인스턴스화하십시오.
- 지식이 불완전할 때 미해결 규범을 보이지 않는 것처럼 취급하지 말고 계속 표시하십시오.
- 의미 있는 신념 업데이트 후 보류 중인 추상 규범을 재평가하십시오.
실패 모드
1. 과잉 채택 교착 상태
증상: 에이전트가 실행 가능한 행동이 없어질 때까지 규범을 계속 내면화합니다. 감지 규칙: 활성 행동 공간이 갈등 해결보다 빠르게 줄어듭니다. 복구: 규범 인스턴스 기반에 추가 규범이 들어가기 전에 일관성 검토를 강제하십시오.
2. 숨겨진 위반
증상: 에이전트가 규범을 위반했지만 그렇게 선택했다고 말할 수 없습니다. 감지 규칙: 사후 설명이 거부된 규범을 생략하거나 위반이 존재하지 않았던 것처럼 취급합니다. 복구: 거부되었지만 인식된 규범을 지속하고 승리한 결과 비교를 기록하십시오.
3. 이진 일관성 붕괴
증상: 채택 로직이 모든 규범을 완전히 호환 가능하거나 불가능한 것으로만 취급합니다. 감지 규칙: 약한 일관성이 아키텍처나 로그에 나타나지 않습니다. 복구: 명시적 약한 일관성 분기를 추가하고 유연성 손실을 직접 모델링하십시오.
4. 고정 우선순위 취약성
증상: 동일한 전역 우선순위 스택이 가장자리 사례에서 명백히 잘못된 선택을 생성합니다. 감지 규칙: 갈등 결과는 우선순위 테이블이 변경될 때만 변경되며, 결과가 변경될 때는 변경되지 않습니다. 복구: 엄격한 우선순위에서 부분집합 생성 및 결과 순위 매기기로 이동하십시오.
5. 규범 측면 채널 아키텍처
증상: 규범 처리가 실행 후반에 BDI 숙고를 재정의하는 별도의 시행 모듈에 있습니다. 감지 규칙: 규범 로직을 신념, 욕구 및 의도를 사용하여 설명할 수 없습니다. 복구: 채택된 규범을 내부 숙고 압력으로 변환하고 메인 아키텍처를 통해 라우팅하십시오.
작업 예제
예제 1: 개인정보 보호 vs. 개인화
서비스 에이전트는 고객 수준 데이터의 직접 사용을 금지하는 규범과 사용자 경험 개선 의무를 알고 있습니다. 시스템은 약한 일관성을 찾습니다: 집계 행동 요약은 개인정보 피해를 제한하면서 대부분의 개인화를 유지합니다. 이 스킬은 두 규범을 모두 표시하고, 집계-안전 의무만 인스턴스화하며, 직접 데이터 사용이 거부된 이유를 기록합니다.
예제 2: 로봇과 아기
간병 로봇은 아기를 살려야 하는 의무와 인간에 대한 사랑을 발전시키는 것을 금지하는 규범에 직면합니다. 두 가지를 모두 만족시키는 계획은 없습니다. 이 스킬은 두 개의 일관된 부분집합을 생성하고, 최악의 결과를 비교하며, 죽음이 금지된 애착보다 더 나쁜 결과이기 때문에 설계 금지를 의도적으로 위반합니다. 위반은 명시적이고 보고 가능합니다.
품질 게이트
- 아키텍처가 감지된 규범과 채택된 규범을 구분합니다.
- 일관성 검사에는 강한 불일치, 약한 일관성 및 강한 일관성이 포함됩니다.
- 갈등 해결은 고립된 규범만이 아니라 일관된 부분집합을 비교합니다.
- 선택된 위반은 명시적 결과 비교와 함께 기록됩니다.
- 추상 규범은 신념 근거가 불완전할 때 보류 상태로 유지될 수 있습니다.
참조 파일
| 파일 | 로드 시기 |
|---|---|
references/separation-of-norm-recognition-and-norm-internalization.md | ANB 대 NIB 경계 설계 시 |
references/three-types-of-consistency-for-norm-adoption.md | 채택 검사 및 유연성 비용 로직 구현 시 |
references/normative-conflict-resolution-through-consequence-ranking.md | 결과 기반 갈등 해소 구축 또는 검토 시 |
references/norm-instantiation-through-belief-grounding.md | 추상 규범을 컨텍스트별 인스턴스로 구체화 시 |
references/maximal-non-conflicting-subsets-for-action-selection.md | 갈등 하에서 일관된 옵션 묶음 계산 시 |
references/desire-internalization-as-norm-adoption-mechanism.md | 규범을 BDI 욕구 및 의도 처리에 통합 시 |
안티 패턴
- 단일 우선순위 순서를 하드코딩하고 그것을 "윤리"라고 부르기.
- 감지된 모든 규범을 자동 채택하고 실행 시간에만 모순을 발견하기.
- 약한 일관성을 강한 일관성과 동일한 것으로 취급하기.
- 평균 효용으로 위반을 비교하면서 재앙적 최악의 경우를 무시하기.