recorded-phrygian494/relay

relay 是什麼？

此技能提供一個自託管的 LLM 網關，旨在通過單個 Go 二進制文件簡化多供應商 AI 模型的流量路由、金鑰管理和故障轉移。它支援 OpenAI 和 Anthropic 的 API 方言，允許開發者在不同供應商之間無縫地路由請求，而無需修改現有應用代碼。該網關對於需要提高可靠性、管理 API 金鑰集中化或根據成本、延遲或可用性進行智能路由的團隊特別有用。通過部署此網關，用戶可以獲得一個輕量級、高性能的解決方案，以統一的方式與多個 LLM 供應商互動，從而降低集成複雜性並增強系統彈性。