mrhuangyong/ai-proxy

O que ai-proxy faz?

Serviço de proxy local para IA/LLM que gerencia chamadas de API para vários provedores de modelos grandes de forma unificada. Baseado no aplicativo desktop Tauri 2 (backend em Rust + frontend em Vue 3), oferece suporte à conversão automática de múltiplos formatos (OpenAI/Anthropic), rotação de chaves API, regras de interceptação, gerenciamento de servidores MCP e gerenciamento de Skills.

Recursos Principais

• Conversão automática de formatos: Converta requisições entre formatos de API (ex.: OpenAI para Anthropic) sem intervenção manual.
• Rotação de chaves API: Gerencie múltiplas chaves API para balanceamento de carga e alta disponibilidade.
• Regras de interceptação: Modifique requisições e respostas em tempo real através de regras personalizadas.
• Gerenciamento de servidores MCP: Configure e gerencie servidores MCP para contextos de conversação.
• Gerenciamento de Skills: Organize e execute capacidades especializadas de agentes de IA.

Pré-requisitos

• Sistema operacional: Windows, macOS ou Linux
• Node.js 18+ (para desenvolvimento)
• Rust (necessário para compilar o backend Tauri)

Instalação

1. Clone o repositório:

   git clone https://github.com/mrhuangyong/ai-proxy.git
   cd ai-proxy
   

2. Instale as dependências:

   npm install
   

3. Inicie o ambiente de desenvolvimento:

   npm run tauri dev
   

Configuração

1. Abra o aplicativo ai-proxy.
2. Navegue até a seção de configurações para adicionar chaves API dos provedores desejados (OpenAI, Anthropic, etc.).
3. Configure as regras de interceptação conforme necessário.
4. Gerencie Skills e servidores MCP através das respectivas interfaces.

Uso

Após a configuração, o proxy local estará disponível em http://localhost:8080. Você pode fazer requisições diretamente para este endpoint, e o proxy as encaminhará ao provedor apropriado com base nas regras configuradas.

Exemplo de requisição com curl:

curl -X POST http://localhost:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-4",
    "messages": [{"role": "user", "content": "Olá!"}]
  }'

Estrutura do Projeto

• src-tauri/ - Backend em Rust e integração com Tauri
• src/ - Frontend em Vue 3
• skills/ - Diretório contendo Skills de IA
• mcp/ - Configurações e servidores MCP

Contribuição

Contribuições são bem-vindas! Por favor, leia as diretrizes de contribuição antes de enviar pull requests.

Licença

Este projeto está licenciado sob a Licença MIT. Consulte o arquivo LICENSE para mais detalhes.