mrhuangyong/ai-proxy

Que fait ai-proxy ?

Service proxy local pour IA/LLM, gérant de manière unifiée les appels API de plusieurs fournisseurs de grands modèles de langage. Application de bureau basée sur Tauri 2 (backend Rust + frontend Vue 3), avec conversion automatique entre les formats OpenAI/Anthropic, rotation des clés API, règles d'interception, gestion des serveurs MCP, gestion des compétences, etc.

Principales fonctionnalités

• Interface API unifiée : Utilisation du format compatible OpenAI (les appels aux modèles Anthropic sont automatiquement convertis)
• Support multi-fournisseurs : OpenAI, Anthropic, Google AI, Azure OpenAI, AWS Bedrock
• Rotation des clés API : Prise en charge de plusieurs clés pour un même fournisseur, avec équilibrage de charge et support en cas de dépassement de quota
• Règles d'interception : Routage flexible des requêtes, modification des paramètres, ou ajout d'informations de contexte
• Gestion des serveurs MCP : Ajout et configuration des serveurs MCP
• Gestion des compétences (Skills) : Création de compétences configurables, injection d'instructions système et de fichiers de contexte
• Statistiques et analyse : Enregistrement de l'historique d'utilisation, statistiques des appels API

Démarrage rapide

Installation

Téléchargez la version correspondant à votre système d'exploitation depuis la page des releases.

Configuration

1. Après le premier lancement, entrez vos clés API dans la page des paramètres
2. Par défaut, le service écoute sur http://localhost:11435
3. Utilisez l'URL du proxy dans vos outils compatibles OpenAI

Utilisation dans Claude Code

Définissez la variable d'environnement suivante :

export CLAUDE_CODE_BASE_URL=http://localhost:11435/v1
export ANTHROPIC_BASE_URL=http://localhost:11435/v1

Utilisation dans Cursor

Dans les paramètres de Cursor, définissez le fournisseur d'API sur OpenAI, et indiquez http://localhost:11435/v1 comme URL de base.

Structure du projet

ai-proxy/
├── src-tauri/          # Backend Rust (Tauri 2)
│   ├── src/
│   │   ├── api/        # Module d'appels API
│   │   ├── proxy/      # Logique de proxy
│   │   ├── mcp/        # Gestion des serveurs MCP
│   │   └── skill/      # Gestion des compétences
│   └── Cargo.toml
├── src/                # Frontend Vue 3
│   ├── views/
│   ├── components/
│   └── stores/
├── public/
└── package.json

Développement

# Installer les dépendances frontend
pnpm install

# Lancer en mode développement
pnpm tauri dev

# Compiler pour la production
pnpm tauri build

Licence

MIT