Alvus은(는) 무엇을 하나요?
이 경량 Go 프록시로 AI API 속도 제한을 처리하여 에이전트가 중단 없이 계속 실행되도록 유지하세요.
개요
Alvus는 AI API 호출 시 발생하는 속도 제한(rate limit)을 관리하기 위한 Go 기반의 경량 프록시 서버입니다.
주요 기능
- 속도 제한 처리: API 제공업체의 속도 제한을 초과하지 않도록 요청을 조절합니다.
- 자동 재시도: 실패한 요청을 지수 백오프와 함께 자동으로 재시도합니다.
- 다중 제공업체 지원: Claude, OpenAI, Gemini 등 다양한 AI API 제공업체와 호환됩니다.
- 경량 설계: Go로 작성되어 빠른 시작과 낮은 리소스 사용을 제공합니다.
사용 방법
- Alvus를 다운로드하거나 빌드합니다.
- 환경 변수 또는 설정 파일을 통해 API 엔드포인트와 속도 제한 설정을 구성합니다.
- AI 에이전트(Claude Code, Cursor, Codex 등)의 API 엔드포인트를 Alvus 프록시 주소로 변경합니다.
- 에이전트를 정상적으로 사용하면 Alvus가 속도 제한을 자동으로 관리합니다.
구성
# config.yml 예시
proxy:
port: 8080
target: "https://api.openai.com/v1"
rate_limiting:
max_requests_per_minute: 60
retry_on_limit: true
max_retries: 5
요구 사항
- Go 1.18 이상 (소스에서 빌드하는 경우)
- 네트워크 접근 가능한 환경
라이선스
MIT