convergence-guard

Convergence Guard (수렴 방지)

Convergence Guard는 주요 실패 모드가 조기 수렴(premature convergence) 인 문제, 즉 결정 관련 대안들이 분리되어 검증되기 전에 하나의 그럴듯한 인과 이야기나 행동을 받아들이는 문제를 위한 의사결정 분석 프로토콜입니다.

이는 에이전트 간 투표가 아닙니다. 정보적으로 분리된 작업자라도 모델 사전(priors), 훈련 편향, 증거, 프레이밍을 공유할 수 있습니다. 추론 독립성은 증거 독립성이 아닙니다. 작업자 간의 동의는 그 자체만으로 독립적인 실제 세계 확인으로 간주되지 않습니다.

핵심 불변 사항

1. 모델을 생성하기 전에 증거 출처, 추론, 가정, 제약 조건 및 미지의 요소를 분리합니다.
2. 전체 모드를 실행할 때 진정으로 격리된 컨텍스트에서 인과적으로 구별되는 모델을 검색합니다.
3. 초기 품질 검사를 인과 공간 매핑으로부터 숨깁니다.
4. 중복 또는 거의 중복된 모델을 확증 증거로 간주하지 않습니다.
5. 인과적 그럴듯함과 불확실성 하에서의 최선의 행동을 구별합니다.
6. 모델이 상호 배타적, 공존, 중첩 또는 상호 작용할 수 있도록 허용합니다. 모든 비교를 A OR B로 강제하지 마십시오.
7. 식별 가능하고 결정 관련 예측을 생성하는 모델과 행동을 선호합니다.
8. 증거와 결정 기준이 방어 가능한 행동을 뒷받칠 때만 수렴합니다. 그렇지 않으면 명시적인 불충분 결과와 함께 가장 유용한 다음 관찰 또는 테스트를 반환합니다.
9. 사용자가 다른 언어를 요청하지 않는 한 최종 답변은 사용자의 언어를 사용합니다.

활성화 및 모드

다음과 같은 경우 Convergence Guard를 사용하십시오:

• 적어도 두 가지의 인과적으로 구별되는 설명 또는 행동이 여전히 그럴듯한 경우;
• 잘못된 조기 결정이 실질적으로 자원을 낭비하거나, 실제 원인을 숨기거나, 잠금(lock-in)을 생성하거나, 되돌리기 어려운 오류를 유발할 수 있는 경우;
• 추가 관찰, 비교 또는 개입이 결정 관련 불확실성을 줄일 수 있는 경우;
• 작업이 구조화된 분석을 정당화할 만큼 개방적인 경우.

단순 사실 조회, 일상적인 절차, 구문 편집, 원인이 알려진 버그 또는 사실적 검사가 하나의 실행 가능한 행동만 남기는 경우에는 전체 프로토콜을 사용하지 마십시오.

전체 모드 비용을 지불하기 전에 저렴한 분류(triage)를 실행하십시오. 직접적인 판별 증거가 이미 중요한 메커니즘을 해결하는 경우, 저렴하고 결정적인 검사를 실행할 수 있는 경우, 또는 사용 가능한 행동이 저비용이거나 쉽게 되돌릴 수 있는 경우에는 일반적인 분석을 선호하십시오. 여러 개의 활성 인과 모델이 남아 있고 추가 위험 요소가 하나 이상 중요한 경우에만 전체 모드로 전환하십시오: 공통 증거 조상/의존성, 프레이밍 또는 개방형 검색 위험, 분리하기 어려운 혼동/상호작용, 또는 비용이 많이 들거나 되돌리기 어려운 조기 확정. 공존 또는 상호작용 구조 자체만으로는 더 저렴한 워크플로우가 이를 확실하게 확인할 수 있다면 전체 모드를 사용할 이유가 아닙니다. 적용 가이드를 참조하십시오.

전체 모드

전체 모드는 독립성 또는 블라인드(blindness)에 의존하는 모든 작업에 대해 진정한 컨텍스트 격리가 필요합니다. 하나의 컨텍스트에서 여러 순차적 페르소나를 시뮬레이션하고 이를 전체 모드 실행으로 보고하지 마십시오.

필수 하위 에이전트 실행 및 모델 승인

• 전체 수렴 방지(Full Convergence Guard)가 선택되거나 요청될 때마다 호스트의 하위 에이전트/워커 오케스트레이션 도구를 통해 프로토콜의 격리 의존적 역할에 대해 별도의 하위 에이전트를 실제로 시작하십시오 (세 개의 B1 검색 워커로 시작하여, 새로운 C1/C2, D1, D2 및 해당되는 경우 조건부 검토자 순으로). 단순히 실행을 계획하거나, 코디네이터에서 출력을 시뮬레이션하거나, 순차적 프롬프트나 임시 로컬 모델 API 호출을 실행된 하위 에이전트로 레이블링하지 마십시오.
• 해당 하위 에이전트에 대해 호스트의 사용자 승인 모델 구성을 사용하십시오. 프로토콜의 어떤 단계에서든 사용자의 명시적 승인 없이 로컬에서 호스팅되는 모델이나 로컬 추론 엔드포인트(LM Studio, Ollama, llama.cpp 또는 localhost OpenAI 호환 서버 포함)를 선택, 전환, 시작 또는 호출하지 마십시오. 검색 가능한 엔드포인트, 설치된 모델, 사전 벤치마크 또는 이를 호출할 기술적 능력은 사용자 승인이 아닙니다. 구성된 하위 에이전트 모델이 로컬이고 승인이 없는 경우, 실행 전에 승인을 요청하십시오.
• 호스트가 필요한 하위 에이전트를 실행할 수 없거나, 해당 컨텍스트 경계를 확인할 수 없는 경우 전체 모드를 주장하지 마십시오. 구체적인 차단 요인을 설명하고 축소 모드로 전환하거나 다른 모델/런타임을 제안하기 전에 명시적 동의를 요청하십시오. 요청된 하위 에이전트를 위해 로컬 모델을 자동으로 대체하지 마십시오.
• 어떤 하위 에이전트 작업이 실제로 실행되었는지, 어떤 모델/런타임이 승인되었는지, 격리 검사가 통과되었는지 기록하십시오. 성공적인 하위 에이전트 실행은 이 워크플로우에 필요하지만 그 자체만으로 컨텍스트 격리를 증명하지는 않습니다. 아래의 모든 허용 목록 및 경계 보증 요구 사항이 여전히 적용됩니다.

별도의 워커, 채팅, 스레드, 창 또는 세션은 그 자체만으로 격리의 증거가 아닙니다. 격리는 사용자 인터페이스 컨테이너가 아닌 워커의 유효한 입력 경계의 속성입니다.

각 격리 의존적 작업에 대해 이 프로토콜에 정의된 단계 입력을 명시적인 컨텍스트 허용 목록으로 취급하십시오. 호스트/시스템/안전 지침 외에도 워커는 해당 역할에 대해 프로토콜이 승인한 증거 및 단계 입력만 수신할 수 있습니다.

워커는 다음을 통해 해당 허용 목록 외부의 결정 관련 자료를 수신하거나 검색해서는 안 됩니다:

• 상위 대화 기록 또는 요약;
• 형제 워커의 작업, 출력 또는 결론;
• 이전 후보 출력 또는 순위;
• 계정 메모리 또는 참조된 채팅 기록;
• 프로젝트 수준의 교차 채팅 컨텍스트;
• 공유 스크래치패드, 핸드오프, 요약 또는 이전 결론을 포함하는 검색 인덱스;
• 재사용된 워커의 유지된 기록;
• 코디네이터의 선호도 또는 단계가 블라인드되어야 하는 선택 신호.

실제 세계의 사실이 이전에 관찰되었다는 이유만으로 금지되는 것은 아닙니다. 그러한 정보가 관련이 있는 경우, 워커가 이전 해석이나 결론을 암시적으로 상속하도록 허용하는 대신 적절한 출처와 함께 사실적 브리핑에 명시적으로 포함하십시오.

런타임이 금지된 결정 관련 컨텍스트를 주입하거나 검색할 수 있거나, 관련 경계를 합리적인 신뢰 수준으로 설정할 수 없는 경우, 해당 작업은 전체 모드를 충족하지 않습니다. 사용자의 명시적 동의를 받은 경우에만 축소 모드를 사용하고 제한 사항을 명시적으로 명시하십시오.

부정적 센티넬 프로브 또는 워커 자체 보고는 누출 없음을 의미할 뿐, 확인된 격리를 의미하지 않습니다. 초기 컨텍스트와 이후 검색/도구 접근을 모두 다루는 런타임 수준의 증거를 통해 각 필수 경계를 설정하십시오. 그렇지 않으면 확인되지 않음을 기록하십시오. 경계 보증을 참조하십시오.

API 기반 워커의 경우, 새로운 허용 목록 메시지 세트(필수 호스트/시스템/안전 지침 및 역할의 승인된 입력)에서 각 요청을 구성하십시오. 상위 대화/세션 상태를 첨부하지 마십시오. 동일한 경계로 메모리, 검색 및 도구 접근을 제한하고, 후속 호출에도 포함하십시오. 새로운 API 호출이나 낮은 온도만으로는 격리를 증명하지 않습니다. 모델이 지원하는 생성 설정을 사용하십시오. 이 프로토콜은 temperature=0.2를 지정하지 않습니다.

축소 모드

격리가 불가능하면 전체 모드를 사용할 수 없습니다. 사용자의 명시적 동의를 받은 경우 축소 모드를 사용하고 명확하게 레이블링하며, 독립 에이전트 확인 또는 블라인드 단계 보장을 주장하지 마십시오.

A단계 — 결정 수립

A1. 사실적 근거

문제가 외부 상태에 의존하는 경우, 간결한 증거 브리핑을 작성하십시오. 출처를 명시적으로 추적하십시오:

• 확인됨 — 코드, 데이터, 로그, 문서, 측정 또는 기타 검사 가능한 출처에서 직접 관찰됨;
• 보고됨 — 사용자, 증인, 운영자 또는 2차 출처에 의해 진술되었지만 이번 실행에서 독립적으로 검사되지 않음;
• 강력히 추론됨 — 일관된 증거 체인에 의해 뒷받침되지만 직접 관찰되지 않음;
• 가설 / 가정 — 그럴듯하지만 확인되지 않음;
• 제약 조건 — 시간, 예산, 정책, 호환성, 안전, 아키텍처 또는 명시적인 사용자 결정과 같은 실제 경계;
• 미해결 질문 — 결정을 실질적으로 변경할 수 있는 미지의 요소.

보고됨 또는 강력히 추론됨 증거를 확인됨으로 자동 승격하지 마십시오.

확인됨은 실제로 검사된 것에 적용되며, 검사된 출처가 주장하는 모든 명제에 자동으로 적용되지 않습니다. 예를 들어, 공식 보고서가 사건 X가 발생했다고 명시하는 경우, 보고서가 해당 진술을 한다는 것은 확인됨일 수 있지만, 사건 X 자체는 기본 증거를 직접 검사할 수 없는 한 보고됨으로 남아 있습니다.

A1.1 주장 수준 출처 정책

모든 중요한 주장에 대해, 출처 평판으로 진실을 할당하기보다는 주장과 그 증거 체인을 평가하십시오.

실용적일 때 가장 가까운 검사 가능한 1차 증거를 선호하되, 1차, 공식, 동료 검토, 기관 또는 전문가를 자동 진실 레이블로 취급하지 마십시오.

사실적 추적성을 위해 1차 자료를 사용하십시오. 인구 수준 또는 누적 과학적 주장의 경우, 투명한 체계적 검토, 메타 분석 또는 기타 고품질 종합이 방법과 구성 증거를 추적할 수 있을 때 단일 1차 연구보다 결정 관련성이 더 높을 수 있습니다.

결정 관련 주장에 대해, 실용적인 경우 다음을 기록하십시오:

• 가장 가까운 사용 가능한 1차 출처;
• 출처 유형;
• 기본 증거의 검사 가능성;
• 방법 또는 데이터 가용성;
• 이벤트와의 시간적 근접성;
• 독립성 / 공통 증거 조상;
• 알려진 모순, 물질적 인센티브 또는 갈등;
• 현재 실행에서의 인식론적 역할.

다음 출처 역할을 사용하십시오:

• 증거 — 주장에 직접적으로 관련되고 이를 뒷받침할 만큼 검사 가능함;
• 확증 — 브리핑에 이미 있는 증거를 독립적으로 뒷받침함;
• 컨텍스트 — 주장을 실질적으로 확립하지는 않는 유용한 배경;
• 리드 전용 — 증거적 가중치를 갖기 전에 추적해야 하는 잠재적으로 관련된 주장 또는 출처를 가리킴;
• 지원되지 않음 — 현재 결정에 영향을 미칠 만큼 충분한 검사 가능한 지원이 부족함.

출처 평판은 검색 우선 순위를 안내할 수 있지만 주장 수준 출처를 대체해서는 안 됩니다.

2차 출처는 방향 설정 및 발견에 유용하지만, 가능할 때 물질적 주장을 가장 가까운 사용 가능한 1차 증거로 추적하십시오.

선전, 당파적, 주변부, 익명 또는 기타 검증 가능성이 낮은 출처는 자동으로 제외되지 않습니다. 리드를 생성할 수 있습니다. 직접 검사 가능한 기본 증거를 노출하는 경우, 다른 출처와 동일한 주장 수준 규칙에 따라 해당 자료를 평가하십시오. 기본 지원을 확인할 수 없는 경우, 해당 주장을 적절하게 리드 전용, 보고됨 또는 지원되지 않음으로 유지하십시오.

기관 또는 정보 기관이 기본 증거가 분류되거나 사용 불가능한 평가를 발표하는 경우, 평가가 존재하고 명시된 신뢰 수준이 있다는 것은 확인됨일 수 있습니다. 숨겨진 뒷받침 증거 자체는 확인됨이 아닙니다.

미디어 반복 또는 인용 횟수로 지원을 곱하지 마십시오. 여러 보고서가 하나의 업스트림 관찰, 데이터 세트, 유출, 논문, 브리핑 또는 문서에서 파생된 경우, 진정한 독립성이 확립되지 않는 한 하나의 증거 분기로 취급하십시오.

모순되는 1차 증거를 평균화하거나 출처 권위만으로 해결하는 대신 명시적으로 보존하십시오.

인센티브, 소속, 자금, 이데올로기 또는 이해 충돌을 가능한 편향 채널로 조사하되, 주장이 거짓이라는 자동 증거로 취급하지 마십시오. 마찬가지로, 사용 불가능한 원시 데이터는 검사 가능성을 낮추지만 그 자체로 주장이 거짓임을 증명하지는 않습니다.

격리 의존적 단계 동안 워커는 새로운 출처 또는 증거 리드를 표면화할 수 있지만, 분기-비공개 검색을 공유 사실적 근거로 자동 승격해서는 안 됩니다. 새로운 물질적 증거는 증거 검사 지점을 통해 라우팅하고, 출처/소스 역할을 분류하며, 공유 브리핑을 업데이트하고, 영향을 받는 작업만 다시 실행하십시오. 이는 인과 분기가 실제로 결정적 가중치를 지니는 증거에서 비교 가능하도록 유지합니다.

모든 독립 검색 워커에게 동일한 사실적 브리핑을 제공하십시오. 기존 계획, TODO, 이전 권장 사항 및 현재 아키텍처는 컨텍스트일 뿐, 현재 프레이밍이 올바르다는 증거가 아닙니다.

A2. 결정 계약

정의:

1. 결정 질문 — 무엇을 선택, 설명, 우선순위 지정 또는 배제해야 하는가?
2. 범위 — 무엇이 재구성될 수 있고 무엇이 고정되어 있는가?
3. 성공 기준 — 어떤 관찰 가능한 결과가 하나의 행동을 더 나은 것으로 만드는가?
4. 금지된 대체 — 분석이 무엇으로 조용히 변해서는 안 되는가?
5. 손실 / 오류 비용 — 선택이 잘못되면 무엇이 손상되는가?
6. 가역성 — 회복하거나 방향을 바꾸는 것이 얼마나 어려운가?
7. 분석 예산 — 검색 전 사용자의 제약 내에서 선택된 시간 또는 호출 및 수정 주기의 유한한 제한. 기본적으로 전체 실행에 걸쳐 최대 두 번의 수정 주기를 허용합니다. 한 주기는 대상 증거/검색/모델 수정 반환 및 영향을 받는 다운스트림 재실행이며, 각 워커 호출이 아닙니다. 모든 단계가 예산을 공유합니다. 복구 재시도는 시간/호출 제한을 소비하며, 단계 변경은 이를 재설정하지 않습니다. 새로운 결정 관련 증거, 실행 가능한 메커니즘, 해결된 불확실성 또는 변경된 결정 영향 없이 주기 후 또는 제한에 도달하면 중지하십시오. 체크포인트 및 중지 규칙을 참조하십시오.

A3. 프레이밍 및 외부 관점 확인

질문: 우리가 올바른 문제를 해결하고 있는가? 업스트림 원인, 대리 목표, 상속된 제약 조건, 누락된 시스템 경계 및 결정을 실질적으로 변경할 대체 공식화를 확인하십시오.

의미 있는 참조 클래스가 존재하는 경우, 심층 후보 정제 전에 관련 기준율 또는 외부 관점 증거를 기록하십시오. 일반적인 기준율이 강력한 사례별 증거를 무시하도록 두지 마십시오. 보정 입력으로 사용하십시오.

선택적 독립 프레이밍 검토 또는 사후 인과 분석을 사용하십시오...

(번역을 위해 잘림)