CharlesCNorton/tiling-verified

tiling-verified란 무엇인가요?

이 스킬은 파라메트릭 뢰비안 장애(Löbian obstacle)를 우회하는 방법을 형식적으로 증명하고 구현하는 데 중점을 둡니다. 뢰비안 장애는 자가 수정(self-modifying) 또는 자기 참조(self-referential) 에이전트가 안전하게 추론할 때 발생하는 논리적 문제로, 파라메트릭 버전은 더 일반적인 환경에서 이 문제를 다룹니다. 이 스킬은 Coq, Lean, Isabelle/HOL 등 정리 증명 도구를 사용하여 파라메트릭 설정에서 소위 '타일링(tiling)' 증명을 형식화합니다. 타일링 증명은 에이전트가 자신의 미래 행동 안전성을 증명함으로써 자신을 안전하게 개선할 수 있도록 하는 기술입니다. 이 스킬을 통해 개발자는 직접적인 논리적 모순 없이 자가 개선 에이전트를 형식적으로 추론하는 방법을 이해하고 재현할 수 있습니다. 주로 AI 안전 및 형식적 검증 커뮤니티에서 유용하며, 특히 자가 수정 에이전트의 안전성 증명을 연구하는 연구자들에게 적합합니다.