Fähigkeit: Videoanalyse (Video Understanding)
Diese Fähigkeit bietet spezialisierte Funktionen zur Videoanalyse unter Verwendung des Pakets z-ai-web-dev-sdk und ermöglicht es KI-Modellen, Videoinhalte zu analysieren, zu beschreiben und daraus Informationen zu extrahieren – einschließlich Bewegungen, zeitlicher Abfolgen und Szenenwechsel.
Skills-Pfad
Fähigkeits-Speicherort: {project_path}/skills/video-verstehen
Diese Fähigkeit befindet sich unter dem obigen Pfad in Ihrem Projekt.
Referenzskripte: Beispieltestskripte finden Sie im Verzeichnis {Fähigkeits-Speicherort}/scripts/ für schnelle Tests und als Referenz. Siehe {Fähigkeits-Speicherort}/scripts/video-verstehen.ts für ein funktionierendes Beispiel.
Überblick
Die Videoanalyse konzentriert sich speziell auf die Analyse von Videoinhalten und bietet folgende Möglichkeiten:
- Szenenverständnis und -beschreibung von Videos
- Erkennung von Aktionen und Bewegungen
- Analyse zeitlicher Abfolgen
- Ereigniserkennung in Videos
- Zusammenfassung von Videoinhalten
- Erkennung von Szenenwechseln
- Personen- und Objektverfolgung über Bildausschnitte hinweg
- Analyse audiovisueller Inhalte (falls zutreffend)
WICHTIG: Das z-ai-web-dev-sdk DARF NUR im Backend-Code verwendet werden. Verwenden Sie es niemals im clientseitigen Code.
Voraussetzungen
Das Paket z-ai-web-dev-sdk ist bereits installiert. Importieren Sie es wie in den folgenden Beispielen gezeigt.
CLI-Verwendung (für einfache Aufgaben)
Für schnelle Videoanalyseaufgaben können Sie die z-ai-CLI anstelle von Code verwenden. Dies ist ideal für einfache Videobeschreibungen, Tests oder Automatisierung.
Einfache Videoanalyse
# Ein Video von einer URL analysieren
z-ai vision --prompt "Fasse zusammen, was in diesem Video passiert" --image "https://example.com/video.mp4"
# Hinweis: Verwenden Sie das --image-Flag auch für Video-URLs
z-ai vision -p "Beschreibe die wichtigsten Ereignisse" -i "https://example.com/praesentation.mp4"
Lokale Videos analysieren
# Eine lokale Videodatei analysieren
z-ai vision -p "Welche Aktivitäten werden in diesem Video gezeigt?" -i "./aufnahme.mp4"
# Antwort in Datei speichern
z-ai vision -p "Erstelle eine detaillierte Zusammenfassung" -i "./meeting.mp4" -o zusammenfassung.json
Erweiterte Videoanalyse
# Komplexes Szenenverständnis mit Denkprozess (thinking)
z-ai vision \
-p "Analysiere dieses Video und identifiziere: 1) Hauptereignisse, 2) Personen und ihre Aktionen, 3) Zeitstrahl der wichtigsten Momente" \
-i "./ereignis.mp4" \
--thinking \
-o analyse.json
# Aktionserkennung
z-ai vision \
-p "Identifiziere alle Aktionen, die von Personen in diesem Video ausgeführt werden" \
-i "./sport.mp4" \
--thinking
Streaming-Ausgabe
# Die Videoanalyse streamen
z-ai vision -p "Beschreibe den Inhalt dieses Videos" -i "./video.mp4" --stream
CLI-Parameter
--prompt, -p <text>: Erforderlich - Frage oder Anweisung zum Video--image, -i <URL oder Pfad>: Optional - Video-URL oder lokaler Dateipfad (trotz des Namens funktioniert es auch für Videos)--thinking, -t: Optional - Aktiviert schrittweises Denken für komplexe Analysen (standardmäßig deaktiviert)--output, -o <Pfad>: Optional - Ausgabedateipfad (JSON-Format)--stream: Optional - Streamt die Antwort in Echtzeit
Unterstützte Videoformate
- MP4 (.mp4) - Am weitesten verbreitetes Format
- AVI (.avi) - Audio Video Interleave
- MOV (.mov) - QuickTime-Format
- WebM (.webm) - Web-optimiertes Format
- MKV (.mkv) - Matroska-Format
- FLV (.flv) - Flash-Video-Format
Wann CLI vs. SDK verwenden?
CLI verwenden für:
- Schnelle Videozusammenfassungen
- Einmalige Videoanalysen
- Testen der Videoverständnisfähigkeiten
- Einfache Automatisierungsskripte
- Erstellen von Videobeschreibungen
SDK verwenden für:
- Mehrschrittige Konversationen über Videos
- Komplexe Videoverarbeitungspipelines
- Produktionsanwendungen mit Fehlerbehandlung
- Benutzerdefinierte Integration mit Videoverarbeitungslogik
- Batch-Videoverarbeitung mit benutzerdefinierten Workflows
Empfohlener Ansatz
Für eine bessere Leistung und Zuverlässigkeit bei lokalen Videos sollten Sie Folgendes in Betracht ziehen:
- Hochladen von Videos auf ein CDN und Verwenden von URLs
- Bei kürzeren Videos Konvertieren von Schlüsselbildern in Bilder für eine schnellere Analyse
- Bei langen Videos Aufteilen oder Stichproben in Intervallen
Grundlegende Implementierung der Videoanalyse
Einzelne Videoanalyse
import ZAI from 'z-ai-web-dev-sdk';
async function analyzeVideo(videoUrl, prompt) {
const zai = await ZAI.create();
const response = await zai.chat.completions.createVision({
messages: [
{
role: 'user',
content: [
{
type: 'text',
text: prompt
},
{
type: 'video_url',
video_url: {
url: videoUrl
}
}
]
}
],
thinking: { type: 'disabled' }
});
return response.choices[0]?.message?.content;
}
// Anwendungsbeispiele
const summary = await analyzeVideo(
'https://example.com/praesentation.mp4',
'Fasse die wichtigsten Punkte dieses Videos zusammen'
);
const actionDetection = await analyzeVideo(
'https://example.com/sport.mp4',
'Identifiziere und beschreibe alle sportlichen Aktionen in diesem Video'
);
Videoszenen verstehen
import ZAI from 'z-ai-web-dev-sdk';
async function understandVideoScenes(videoUrl) {
const zai = await ZAI.create();
const prompt = `Analysiere dieses Video und liefere:
1. Gesamtzusammenfassung des Videoinhalts
2. Hauptszenen oder -abschnitte (mit ungefähren Zeitstempeln, falls möglich)
3. Schlüsselpersonen oder -charaktere und ihre Rollen
4. Wichtige Aktionen oder Ereignisse in chronologischer Reihenfolge
5. Beschreibung der Umgebung und des Settings
6. Gesamtstimmung oder -ton`;
const response = await zai.chat.completions.createVision({
messages: [
{
role: 'user',
content: [
{ type: 'text', text: prompt },
{ type: 'video_url', video_url: { url: videoUrl } }
]
}
],
thinking: { type: 'enabled' } // Für detaillierte Analyse aktivieren
});
return response.choices[0]?.message?.content;
}
// Verwendung
const sceneAnalysis = await understandVideoScenes(
'https://example.com/dokumentation.mp4'
);
Bewegungs- und Aktionserkennung
import ZAI from 'z-ai-web-dev-sdk';
async function detectActions(videoUrl, specificAction = null) {
const zai = await ZAI.create();
const prompt = specificAction
? `Identifiziere alle Vorkommen von "${specificAction}" in diesem Video. Beschreibe für jedes Vorkommen, wann es auftritt, und gib Details dazu, wie es ausgeführt wird.`
: 'Identifiziere und beschreibe alle signifikanten Aktionen und Bewegungen in diesem Video. Gib an, wer sie ausführt und wann sie auftreten.';
const response = await zai.chat.completions.createVision({
messages: [
{
role: 'user',
content: [
{ type: 'text', text: prompt },
{ type: 'video_url', video_url: { url: videoUrl } }
]
}
],
thinking: { type: 'enabled' }
});
return response.choices[0]?.message?.content;
}
// Verwendung
const runningActions = await detectActions(
'https://example.com/sport.mp4',
'rennen'
);
const allActions = await detectActions(
'https://example.com/aktivitaet.mp4'
);
Extraktion von Ereigniszeitlinien
import ZAI from 'z-ai-web-dev-sdk';
async function extractTimeline(videoUrl) {
const zai = await ZAI.create();
const prompt = `Erstelle eine detaillierte Zeitlinie der Ereignisse in diesem Video:
- Identifiziere Schlüsselmomente und Übergänge
- Notiere die ungefähre Zeitangabe (Anfang, Mitte, Ende oder spezifische Zeitstempel, falls sichtbar)
- Beschreibe, was an jedem Schlüsselpunkte passiert
- Identifiziere etwaige Ursache-Wirkungs-Beziehungen zwischen Ereignissen
Formatiere als chronologische Liste.`;
const response = await zai.chat.completions.createVision({
messages: [
{
role: 'user',
content: [
{ type: 'text', text: prompt },
{ type: 'video_url', video_url: { url: videoUrl } }
]
}
],
thinking: { type: 'enabled' }
});
return response.choices[0]?.message?.content;
}
Klassifizierung von Videoinhalten
import ZAI from 'z-ai-web-dev-sdk';
async function classifyVideo(videoUrl) {
const zai = await ZAI.create();
const prompt = `Klassifiziere diesen Videoinhalt:
1. Primäre Kategorie (z. B. Bildung, Unterhaltung, Sport, Nachrichten, Tutorial)
2. Unterkategorie oder Genre
3. Zielgruppe
4. Inhaltsstil (professionell, locker, dokumentarisch usw.)
5. Schlüsselthemen oder -inhalte
6. Vorgeschlagene Tags (10-15 Schlüsselwörter)
Formatiere deine Antwort als strukturiertes JSON.`;
const response = await zai.chat.completions.createVision({
messages: [
{
role: 'user',
content: [
{ type: 'text', text: prompt },
{ type: 'video_url', video_url: { url: videoUrl } }
]
}
],
thinking: { type: 'disabled' }
});
const content = response.choices[0]?.message?.content;
try {
return JSON.parse(content);
} catch (e) {
return { rawResponse: content };
}
}
Fortgeschrittene Anwendungsfälle
Mehrschrittige Videokonversation
import ZAI from 'z-ai-web-dev-sdk';
class VideoConversation {
constructor() {
this.messages = [];
}
async initialize() {
this.zai = await ZAI.create();
}
async loadVideo(videoUrl, initialQuestion) {
this.messages.push({
role: 'user',
content: [
{ type: 'text', text: initialQuestion },
{ type: 'video_url', video_url: { url: videoUrl } }
]
});
return this.getResponse();
}
async askFollowUp(question) {
this.messages.push({
role: 'user',
content: [
{ type: 'text', text: question }
]
});
return this.getResponse();
}
async getResponse() {
const response = await this.zai.chat.completions.createVision({
messages: this.messages,
thinking: { type: 'disabled' }
});
const assistantMessage = response.choices[0]?.message?.content;
this.messages.push({
role: 'assistant',
content: assistantMessage
});
return assistantMessage;
}
}
// Verwendung
const conversation = new VideoConversation();
await conversation.initialize();
const initial = await conversation.loadVideo(
'https://example.com/vorlesung.mp4',
'Was ist das Hauptthema dieser Vorlesung?'
);
const followup1 = await conversation.askFollowUp(
'Kannst du die wichtigsten Konzepte erklären?'
);
const followup2 = await conversation.askFollowUp(
'Welche Beispiele wurden zur Veranschaulichung dieser Konzepte verwendet?'
);
Videoqualitätsbewertung
import ZAI from 'z-ai-web-dev-sdk';
async function assessVideoQuality(videoUrl) {
const zai = await ZAI.create();
const prompt = `Bewerte die Qualität dieses Videos:
1. Bildqualität (Auflösung, Klarheit, Beleuchtung) - Bewerte 1-10
2. Audioqualität (falls Audio vorhanden) - Bewerte 1-10
3. Kameraführung (Stabilität, Bildausschnitt, Komposition) - Bewerte 1-10
4. Produktionswert (Schnitt, Übergänge, Effekte) - Bewerte 1-10
5. Inhaltsklarheit (ist die Botschaft klar?) - Bewerte 1-10
6. Tempo (zu schnell, zu langsam, genau richtig)
7. Technische Probleme (Artefakte, Unschärfe, Audio-Sync usw.)
8. Gesamtbewertung - 1-10
9. Spezifische Verbesserungsvorschläge
Gib detailliertes Feedback für jedes Kriterium.`;
const response = await zai.chat.completions.createVision({
messages: [
{
role: 'user',
content: [
{ type: 'text', text: prompt },
{ type: 'video_url', video_url: { url: videoUrl } }
]
}
],
thinking: { type: 'enabled' }
});
return response.choices[0]?.message?.content;
}
Video-Inhaltsmoderation
import ZAI from 'z-ai-web-dev-sdk';
async function moderateVideo(videoUrl) {
const zai = await ZAI.create();
const prompt = `Überprüfe dieses Video auf Inhaltsmoderation:
1. Prüfe auf unangemessene oder sensible Inhalte
2. Identifiziere mögliche Sicherheitsbedenken
3. Notiere Inhalte, die gegen übliche Community-Richtlinien verstoßen könnten
4. Bewerte die Altersfreigabe
5. Identifiziere sichtbares urheberrechtlich geschütztes Material (Logos, Marken, Musik)
6. Gesamtsicherheitsbewertung: Sicher / Vorsicht / Prüfung erforderlich
Gib konkrete Beispiele für alle festgestellten Bedenken an.`;
const response = await zai.chat.completions.createVision({
messages: [
{
role: 'user',
content: [
{ type: 'text', text: prompt },
{ type: 'video_url', video_url: { url: videoUrl } }
]
}
],
thinking: { type: 'enabled' }
});
return response.choices[0]?.message?.content;
}
Erstellung visueller Transkripte
import ZAI from 'z-ai-web-dev-sdk';
async function generateVisualTranscript(videoUrl) {
const zai = await ZAI.create();
const prompt = `Erstelle ein detailliertes visuelles Transkript dieses Videos:
- Beschreibe, was in jeder Szene passiert
- Notiere jeglichen Text, der auf dem Bildschirm erscheint
- Beschreibe wichtige visuelle Elemente
- Erwähne Szenenwechsel oder Übergänge
- Füge Beschreibungen der Aktionen und Gesichtsausdrücke der Personen hinzu
Formatiere als zeitbasierte Erzählung (z. B. "Am Anfang...", "Dann...", "Schließlich...").`;
const response = await zai.chat.completions.createVision({
messages: [
{
role: 'user',
content: [
{ type: 'text', text: prompt },
{ type: 'video_url', video_url: { url: videoUrl } }
]
}
],
thinking: { type: 'disabled' }
});
return response.choices[0]?.message?.content;
}
Sportvideoanalyse
import ZAI from 'z-ai-web-dev-sdk';
async function analyzeSportsVideo(videoUrl, sport = null) {
const zai = await ZAI.create();
const prompt = sport
? `Analysiere dieses ${sport}-Video im Detail:
1. Identifiziere Spieler und ihre Positionen
2. Beschreibe Schlüsselspielzüge und Strategien
3. Notiere Punktgewinne oder wichtige Momente
4. Bewerte die Spielerleistung
5. Identifiziere Regelverstöße oder Fouls
6. Beschreibe das Tempo und den Spielfluss`
: `Analysiere dieses Sportvideo:
1. Identifiziere die ausgeübte Sportart
2. Beschreibe die wichtigsten Aktionen und Spielzüge
3. Notiere Punkte oder bedeutende Ereignisse
4. Beschreibe Spielerbewegungen und Strategien
5. Gesamtbewertung des Spiels oder Wettkampfs`;
const response = await zai.chat.completions.createVision({
messages: [
{
role: 'user',
content: [
{ type: 'text', text: prompt },
{ type: 'video_url', video_url: { url: videoUrl } }
]
}
],
thinking: { type: 'enabled' }
});
return response.choices[0]?.message?.content;
}
Stream-Verarbeitung
import ZAI from 'z-ai-web-dev-sdk';
async function streamVideoAnalysis(videoUrl, prompt) {
const zai = await ZAI.create();
const stream = await zai.chat.completions.createVision({
messages: [
{
role: 'user',
content: [
{ type: 'text', text: prompt },
{ type: 'video_url', video_url: { url: videoUrl } }
]
}
],
stream: true
});
let fullResponse = '';
for await (const chunk of stream) {
const content = chunk.choices[0]?.delta?.content || '';
fullResponse += content;
process.stdout.write(content); // In Echtzeit ausgeben
}
return fullResponse;
}