verified-capability-evolver은(는) 무엇을 하나요?
검증, 롤백, 게이트 승진을 갖춘 AI 에이전트용 통제된 자가 개선 시스템입니다.
개요
이 시스템은 AI 에이전트가 자신의 기능을 안전하게 발전시킬 수 있도록 합니다. 변경 사항은 검증 단계를 거치며, 문제 발생 시 롤백될 수 있고, 특정 조건이 충족되어야 승진(promotion)됩니다.
주요 기능
- 검증(Verification): 각 변경 사항은 자동 테스트 및 유효성 검사를 통해 확인됩니다.
- 롤백(Rollback): 문제가 감지되면 변경 사항을 이전 상태로 되돌릴 수 있습니다.
- 게이트 승진(Gated Promotion): 변경 사항은 승인 게이트를 통과해야만 최종적으로 적용됩니다.
사용 방법
- 환경 변수를 설정하세요 (예:
EVOLVER_VERIFICATION_SCRIPT,EVOLVER_PROMOTION_GATE). - 검증 스크립트를 작성하여 변경 사항이 기대치를 충족하는지 확인하세요.
- 승인 게이트를 정의하고 조건을 만족하는 변경 사항만 승진을 허용하세요.
예시
# 검증 스크립트 실행
evolve verify
# 변경 사항 롤백
evolve rollback
# 승진 게이트 트리거
evolve promote
상세 정보
이 시스템은 AI 에이전트가 자체 개선 루프를 안전하게 수행할 수 있도록 설계되었습니다. 각 단계는 명확한 확인 절차를 포함하며, 실패 시 복구 경로가 제공됩니다. 자세한 내용은 공식 문서를 참조하세요.