Was macht azure-aigateway?
Agent-Fertigkeit 'azure-aigateway' aus microsoft/azure-skills. Verwenden Sie diese, wenn die Aufgabe in den Bereich dieser Fertigkeit fällt.
Überblick
Diese Fertigkeit ermöglicht es KI-Agenten, über Azure API Management Gateway auf Azure OpenAI-Dienste zuzugreifen. Sie bietet eine zentrale Schnittstelle für die Verwaltung von API-Anfragen, einschließlich Ratenbegrenzung, Authentifizierung und Protokollierung.
Voraussetzungen
- Ein aktives Azure-Abonnement
- Ein bereitgestellter Azure API Management-Dienst
- Ein Azure OpenAI Service-Endpunkt mit einem bereitgestellten Modell (z.B. GPT-4)
- Die folgenden Umgebungsvariablen müssen gesetzt sein:
AZURE_OPENAI_ENDPOINT– der Endpunkt Ihres Azure OpenAI-DienstesAPI_KEY– der API-Schlüssel für den Zugriff auf den Azure OpenAI-DienstAPIM_ENDPOINT– der Endpunkt Ihres Azure API Management-Dienstes
Verwendung
Die Fertigkeit kann in Agenten-Frameworks wie Claude Code, Cursor oder Codex integriert werden. Nachdem Sie die Umgebungsvariablen konfiguriert haben, kann der Agent Anfragen über das Gateway an das Azure OpenAI-Modell senden.
Beispiel-Bash-Befehl
curl -X POST "$APIM_ENDPOINT/openai/deployments/gpt-4/chat/completions?api-version=2023-05-15" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $API_KEY" \
-d '{
"messages": [
{"role": "system", "content": "Sie sind ein hilfreicher Assistent."},
{"role": "user", "content": "Hallo!"}
]
}'
Konfiguration von Richtlinien
Azure API Management ermöglicht es Ihnen, benutzerdefinierte Richtlinien auf API-Ebene zu konfigurieren, wie z.B.:
- Ratenbegrenzung: Begrenzen Sie die Anzahl der Anfragen pro Benutzer pro Minute.
- Caching: Zwischenspeichern von Antworten zur Reduzierung der Latenz und Kosten.
- Authentifizierung: Überprüfen Sie JWT-Token oder API-Schlüssel.
Fehlerbehebung
- Stellen Sie sicher, dass alle oben genannten Umgebungsvariablen korrekt gesetzt sind.
- Überprüfen Sie die Protokolle im Azure API Management-Dienst auf Fehler bei Gateway-Anfragen.
- Bestätigen Sie, dass der Azure OpenAI-Dienst ausgeführt wird und das bereitgestellte Modell verfügbar ist.