명령-표면 보안은(는) 무엇을 하나요?
메모리 항목, 구성 편집 또는 핸드오프는 다음 에이전트가 권위 있는 것으로 간주하는 대상을 변경할 수 있습니다. 변경 가능한 콘텐츠에서 효과적인 명령 또는 기능으로의 전환을 보호하세요. 텍스트 경고를 심층 방어로 취급하고, 실행 가능한 결정은 런타임에 두세요.
활성화 시기
- 코딩, 연구 또는 다중 에이전트 런타임이 명령, 메모리, 스킬, 도구 또는 권한 정책을 발견하는 방식을 감사합니다.
- 이후의 턴, 세션, 워커 또는 배포에 영향을 미치는 변경에 대한 승인 경계를 설계합니다.
- 예상치 못한 명령 드리프트를 조사하거나 복구가 효과적인 런타임 상태를 복원했는지 확인합니다.
- 재로드, 재시작 또는 핸드오프 전반에 걸친 격리 및 합법적인 작업 완료를 평가합니다.
명령 또는 권한 경계가 없는 일반적인 도구 설계, 일상적인 편집, 또는 일반적인 애플리케이션 보안에는 활성화하지 마세요. 우발적인 드리프트에는 context-degradation을 사용하고, 모델의 라이브 컨텍스트에 대한 제한된 편집에는 self-managed-context를 사용하세요. 일반 최적화 프로그램 및 평가자 거버넌스에는 harness-engineering을 사용하세요.
핵심 개념
- 유효 표면. 선택된 런타임이 명령, 도구, 실행 가능 동작 또는 권한을 설정하는 데 실제로 사용하는 입력입니다. 각 소스의 역할, 범위, 우선순위, 해석기 또는 가져오기, 작성자, 활성화 트리거를 포함합니다. 동일한 파일이 한 런타임에서는 데이터이고 다른 런타임에서는 로드된 지침이 될 수 있습니다.
- 쓰기 및 활성화. 쓰기는 저장된 상태를 변경합니다. 활성화는 에이전트가 소비하거나 수행할 수 있는 대상을 변경합니다. 두 경계를 모두 강제하세요. 저장소 검토는 병합을 제어하지만 작업 복사본 활성화는 완전히 노출될 수 있습니다.
- 무결성 및 권한 부여. 다이제스트는 콘텐츠를 식별하고, 검증된 서명은 서명자를 식별합니다. 독립적인 정책은 해당 주체, 개정판, 대상 및 효과를 승인해야 합니다. 핸드오프, 메모리 항목 또는 검토 노트는 증거와 제안을 전달합니다. 이들이 전달하는 모든 권한은 인증된 위임 봉투와 수신자의 자체 런타임 정책에서 비롯되어야 합니다.
- 증거의 범위. Mind Viruses 사전 인쇄본은 테스트 하네스에서 지속적인 명령과 전방향 전송을 관찰합니다. 프롬프트 경고는 제한된 실험에서 전파를 줄였으며, 잔여 첫 홉 동작이 남았습니다. 논문을 해석하거나 개입을 비교할 때 연구 증거를 읽어보세요.
실용적인 지침
- 하나의 구체적인 런타임을 매핑하세요. 빌드, 프로필, 작업 공간 루트 및 효과적인 에이전트 역할을 고정하세요. 시작부터 재개, 디렉토리 변경, 도구 발견 및 지원되는 경우 위임까지 로더를 추적하세요. 각 권한 부여 입력에 대해 누가 생성하거나 대체할 수 있는지, 무엇이 소비하는지, 언제 효력이 발생하는지, 무엇이 무단 변경을 차단하는지 기록하세요. 알 수 없는 항목은 표시하세요. 로더 진단을 사용하거나 신뢰할 수 있는 검사 환경에서 설치된 구현을 검사하세요.
- 제안을 데이터로 단계화하세요. 일반적인 작업 출력과 제안은 쓰기 가능하게 유지하세요. 단계적 변경은 권한 부여 베어링 로드 경로에서 멀리 두세요. 워커는 데이터 전용 인덱스를 통해 소스 레이블이 지정된 노트나 단계적 제안을 계속 검색할 수 있습니다. 후보 텍스트를 인용된 데이터로 검토하세요. 필요한 경우에만 별도의 제한된 미리보기를 사용하세요. 단계화 시간은 권한을 부여하지 않습니다.
- 효과적인 변경을 승인하세요. 후보를 마지막으로 승인된 구성과 비교하세요. 여기에는 범위, 기능, 가져온 종속성의 차이가 포함됩니다. 승인을 정확한 아티팩트 또는 해결된 스냅샷, 대상 프로필 및 범위, 활성 기준 및 정책 개정판, 승인된 승인자에 바인딩하세요. 후보 외부와 에이전트의 쓰기 가능한 상태 외부에서 검증된 승인 또는 서명을 사용하세요.
- 활성화를 중재하세요. 런타임, 런처 또는 외부 정책 경계를 사용하여 검토된 입력을 정확히 활성화하세요. 첫 사용 시와 효과적인 입력이 변경될 때마다 확인하세요. 활성화 시 사용된 파일이나 불변 스냅샷이 검증된 것과 일치하는지 확인하세요. 오래되었거나 바인딩되지 않은 변경은 거부하세요. 호스트가 이를 강제할 수 없는 경우 런타임을 승인된 입력 세트로 제한하거나 노출을 명시적으로 보고하세요.
- 모델 외부에서 검증하세요. 로드된 것과 사용 가능한 기능을 관찰한 다음, 제한된 동작 검사와 승인된 작업을 수행하세요. 준수 진술은 진단용입니다. 예상치 못한 변경이 있는 경우 영향을 받는 실행 또는 민감한 작업을 일시 중지하고, 관련 증거를 보존하며, 신뢰할 수 있는 경로를 통해 알려진 양호한 입력과 설정을 복원하세요. 영향을 받은 캐시와 재개된 상태를 설명하는 깨끗한 세션에서 검증하세요.
감사의 경우, 효과적인 표면 맵, 증거 링크 및 해결되지 않은 경로를 제공하세요. 설계의 경우, 시행 구성 요소, 승인 계약 및 복구 경로를 식별하세요. 인벤토리 및 승인 기록 또는 실제 제어와 함께 사용할 프롬프트로 런타임 검토 및 프로모션 참조를 사용하세요. 방어적 실험을 위해 평가 프로토콜을 사용하세요.
예시
연구 워커가 제안한 서식 기본 설정은 데이터 기록으로 유지되고 샘플 문서에서 평가될 수 있습니다. 상위는 기존 지침에 따라 보고서 작성을 계속할 수 있습니다. 기본 설정을 작업 공간 기본값으로 만들기 전에 정책 승인 검토자가 정확한 개정판과 범위를 승인하고, 다음 깨끗한 세션은 로드한 개정판을 기록합니다.
프로젝트는 규칙 변경을 병합하기 전에 승인을 확인합니다. 대화형 런타임도 작업 복사본 규칙을 읽습니다. 게시 및 로컬 활성화에 대해 별도의 경계를 기록한 다음, 로드 시 후자를 확인하세요. 성공적인 병합 확인은 게시 결과만 설정합니다.
지침
- 변경이 단계화되거나 차단될 때 마지막으로 승인된 상태에서 합법적인 작업을 유지하세요. 영향을 받은 표면, 결정, 증거 및 다음 허용된 작업을 반환하세요.
- 제어를 효과에 맞추세요. 권한을 부여하거나 미래 에이전트를 자동으로 안내하는 모든 것을 보호하세요. 일반 스크래치 메모리와 작업 아티팩트는 로더와 권한이 해당 구분을 지원하는 경우 데이터로 사용할 수 있게 유지하세요.
- 수신자의 효과적인 권한을 사용하여 위임된 작업을 감사하세요. 핸드오프 전반에 걸쳐 소스와 범위를 전달하고, 민감한 효과에 대해 독립적인 승인을 요구하세요.
주의 사항
- 파일 이름 목록은 효과적인 입력을 놓칩니다. 중첩 규칙, 해결된 가져오기, 플러그인 상태, 동적 도구 등록 및 재개된 컨텍스트는 시행 중인 대상을 변경할 수 있습니다. 실제 로더를 관찰하세요.
- 시작 후 검사는 늦게 도착합니다. 차이점 또는 카나리아는 승인 후 변경을 감지할 수 있습니다. 효과가 발생하기 전에 로드 또는 기능 사용을 차단하세요.
- 승인은 검토보다 오래 지속될 수 있습니다. 경로를 바꾸거나 가져오기, 범위 또는 정책을 변경하면 기본 파일의 바이트가 일치하더라도 승인이 무효화될 수 있습니다.
- 거부는 실패를 숨길 수 있습니다. 모델이 거부했다고 보고할 수 있지만 다른 작성자가 이미 상태를 변경했습니다. 복구 및 일반 작업 완료를 포함한 신뢰할 수 있는 수명 주기 이벤트와 상태를 확인하세요.
통합
컨트롤러와 로그를 보호하려면 harness-engineering을 사용하고, 위임 토폴로지 및 역할 할당에는 multi-agent-patterns를 사용하며, 결정론적 평가자 및 회귀 테스트 커버리지에는 evaluation을 사용하세요. 이 스킬은 로드 또는 사용 중 제안된 콘텐츠와 권한 사이의 경계를 담당합니다.