ai-proxy 是做什麼的?
本地 AI/LLM 代理服務,統一管理多個大模型供應商的 API 呼叫。基於 Tauri 2 桌面應用(Rust 後端 + Vue 3 前端),支援 OpenAI/Anthropic 多格式自動轉換、API Key 輪換、攔截規則、MCP 伺服器管理、技能管理等功能。
功能特色
- 多供應商統一代理:支援 OpenAI 和 Anthropic API,自動轉換請求/回應格式。
- API Key 管理與輪換:安全儲存 API Key,並支援自動輪換以提升可用性。
- 攔截規則:可自訂規則來修改請求或回應,例如添加提示詞、過濾敏感內容。
- MCP 伺服器管理:整合 Model Context Protocol (MCP) 伺服器,擴展 AI 代理能力。
- 技能管理:集中管理 AI 代理技能,便於分享和使用。
- 桌面應用程式:基於 Tauri 2 建置,提供流暢、跨平台的本機體驗。
技術架構
- 後端:Rust(Tauri 2 核心),處理代理邏輯、API 呼叫、規則引擎。
- 前端:Vue 3(TypeScript),提供使用者圖形化介面進行設定與監控。
- 代理模式:啟動本機 HTTP 伺服器,攔截所有發往 OpenAI/Anthropic 的請求。
使用方式
- 安裝並啟動
mrhuangyong/ai-proxy桌面應用。 - 在前端設定中添加您的 API Key。
- 配置攔截規則(可選)。
- 將您的 AI 代理(如 Claude Code、Cursor)的 API 端點指向本機代理服務。
- 應用將自動處理格式轉換、Key 輪換和規則套用。
支援平台
- Windows、macOS、Linux
注意事項
- 請妥善保管您的 API Key,應用不會上傳至外部伺服器。
- 攔截規則僅作用於通過代理的請求。