Skill zur Videoverständnis
Dieses Skill bietet spezialisierte Funktionen zum Verständnis von Videos unter Verwendung des z-ai-web-dev-sdk-Pakets und ermöglicht es KI-Modellen, Videoinhalte einschließlich Bewegung, zeitlicher Abläufe und Szenenwechsel zu analysieren, zu beschreiben und daraus Informationen zu extrahieren.
Skills-Pfad
Skill-Speicherort: {project_path}/skills/video-understand
Dieses Skill befindet sich unter dem oben genannten Pfad in Ihrem Projekt.
Referenzskripte: Beispieltestskripte sind im Verzeichnis {Skill Location}/scripts/ für schnelle Tests und Referenz verfügbar. Siehe {Skill Location}/scripts/video-understand.ts für ein funktionierendes Beispiel.
Überblick
Das Verständnis von Videos konzentriert sich speziell auf die Analyse von Videoinhalten und bietet Funktionen für:
- Szenenverständnis und -beschreibung von Videos
- Erkennung von Aktionen und Bewegungen
- Analyse zeitlicher Abläufe
- Ereigniserkennung in Videos
- Zusammenfassung von Videoinhalten
- Erkennung von Szenenwechseln
- Verfolgung von Personen und Objekten über Frames hinweg
- Analyse audiovisueller Inhalte (sofern zutreffend)
WICHTIG: z-ai-web-dev-sdk MUSS nur im Backend-Code verwendet werden. Verwenden Sie es niemals im clientseitigen Code.
Voraussetzungen
Das Paket z-ai-web-dev-sdk ist bereits installiert. Importieren Sie es wie in den folgenden Beispielen gezeigt.
CLI-Nutzung (für einfache Aufgaben)
Für schnelle Videoanalyseaufgaben können Sie anstelle des Schreibens von Code die z-ai-CLI verwenden. Dies ist ideal für einfache Videobeschreibungen, Tests oder Automatisierung.
Basis-Videoanalyse
# Ein Video von einer URL analysieren
z-ai vision --prompt "Fasse zusammen, was in diesem Video passiert" --image "https://example.com/video.mp4"
# Hinweis: Verwenden Sie das --image-Flag auch für Video-URLs
z-ai vision -p "Beschreibe die wichtigsten Ereignisse" -i "https://example.com/presentation.mp4"
Lokale Videos analysieren
# Eine lokale Videodatei analysieren
z-ai vision -p "Welche Aktivitäten werden in diesem Video gezeigt?" -i "./recording.mp4"
# Antwort in Datei speichern
z-ai vision -p "Erstelle eine detaillierte Zusammenfassung" -i "./meeting.mp4" -o summary.json
Erweiterte Videoanalyse
# Komplexes Szenenverständnis mit Denkprozess
z-ai vision \
-p "Analysiere dieses Video und identifiziere: 1) Hauptereignisse, 2) Personen und ihre Aktionen, 3) Zeitleiste der wichtigsten Momente" \
-i "./event.mp4" \
--thinking \
-o analysis.json
# Aktionserkennung
z-ai vision \
-p "Identifiziere alle Aktionen, die von Personen in diesem Video ausgeführt werden" \
-i "./sports.mp4" \
--thinking
Streaming-Ausgabe
# Die Videoanalyse streamen
z-ai vision -p "Beschreibe diesen Videoinhalt" -i "./video.mp4" --stream
CLI-Parameter
--prompt, -p <text>: Erforderlich - Frage oder Anweisung zum Video--image, -i <URL oder Pfad>: Optional - Video-URL oder lokaler Dateipfad (trotz des Namens funktioniert es auch für Videos)--thinking, -t: Optional - Aktiviert den Gedankengang für komplexe Analysen (standardmäßig deaktiviert)--output, -o <Pfad>: Optional - Ausgabedateipfad (JSON-Format)--stream: Optional - Streamt die Antwort in Echtzeit.
Unterstützte Videoformate
- MP4 (.mp4) - Am weitesten verbreitetes Format
- AVI (.avi) - Audio Video Interleave
- MOV (.mov) - QuickTime-Format
- WebM (.webm) - Weboptimiertes Format
- MKV (.mkv) - Matroska-Format
- FLV (.flv) - Flash-Videoformat
Wann CLI vs. SDK verwenden
CLI verwenden für:
- Schnelle Videozusammenfassungen
- Einmalige Videoanalysen
- Testen der Videoverständnisfähigkeiten
- Einfache Automatisierungsskripte
- Generierung von Videobeschreibungen
SDK verwenden für:
- Mehrschrittige Gespräche über Videos
- Komplexe Videoverarbeitungspipelines
- Produktionsanwendungen mit Fehlerbehandlung
- Benutzerdefinierte Integration mit Videoverarbeitungslogik
- Batch-Videoverarbeitung mit benutzerdefinierten Workflows
Empfohlener Ansatz
Für eine bessere Leistung und Zuverlässigkeit bei lokalen Videos sollten Sie Folgendes in Betracht ziehen:
- Hochladen von Videos auf ein CDN und Verwendung von URLs
- Bei kürzeren Videos konvertieren Sie Schlüsselbilder in Bilder für eine schnellere Analyse
- Bei langen Videos sollten Sie ein Chunking oder Sampling in Intervallen in Betracht ziehen
Basis-Implementierung des Videoverständnisses
Einzel-Videoanalyse
import ZAI from 'z-ai-web-dev-sdk';
async function analyzeVideo(videoUrl, prompt) {
const zai = await ZAI.create();
const response = await zai.chat.completions.createVision({
messages: [
{
role: 'user',
content: [
{
type: 'text',
text: prompt
},
{
type: 'video_url',
video_url: {
url: videoUrl
}
}
]
}
],
thinking: { type: 'disabled' }
});
return response.choices[0]?.message?.content;
}
// Verwendungsbeispiele
const summary = await analyzeVideo(
'https://example.com/presentation.mp4',
'Fasse die wichtigsten Punkte dieses Videos zusammen'
);
const actionDetection = await analyzeVideo(
'https://example.com/sports.mp4',
'Identifiziere und beschreibe alle sportlichen Aktionen in diesem Video'
);
Videoszenen verstehen
import ZAI from 'z-ai-web-dev-sdk';
async function understandVideoScenes(videoUrl) {
const zai = await ZAI.create();
const prompt = `Analysiere dieses Video und gib:
1. Eine allgemeine Zusammenfassung des Videoinhalts
2. Die Hauptszenen oder -segmente (mit ungefähren Zeitstempeln, wenn möglich)
3. Wichtige Personen oder Charaktere und ihre Rollen
4. Wichtige Aktionen oder Ereignisse in chronologischer Reihenfolge
5. Beschreibung der Umgebung und des Settings
6. Die allgemeine Stimmung oder den Ton`;
const response = await zai.chat.completions.createVision({
messages: [
{
role: 'user',
content: [
{ type: 'text', text: prompt },
{ type: 'video_url', video_url: { url: videoUrl } }
]
}
],
thinking: { type: 'enabled' } // Für detaillierte Analyse aktivieren
});
return response.choices[0]?.message?.content;
}
// Verwendung
const sceneAnalysis = await understandVideoScenes(
'https://example.com/documentary.mp4'
);
Bewegungs- und Aktionserkennung
import ZAI from 'z-ai-web-dev-sdk';
async function detectActions(videoUrl, specificAction = null) {
const zai = await ZAI.create();
const prompt = specificAction
? `Identifiziere alle Vorkommen von "${specificAction}" in diesem Video. Beschreibe für jedes Vorkommen, wann es auftritt, und gib Details an, wie es ausgeführt wird.`
: 'Identifiziere und beschreibe alle bedeutenden Aktionen und Bewegungen in diesem Video. Gib an, wer sie ausführt und wann sie auftreten.';
const response = await zai.chat.completions.createVision({
messages: [
{
role: 'user',
content: [
{ type: 'text', text: prompt },
{ type: 'video_url', video_url: { url: videoUrl } }
]
}
],
thinking: { type: 'enabled' }
});
return response.choices[0]?.message?.content;
}
// Verwendung
const runningActions = await detectActions(
'https://example.com/sports.mp4',
'laufen'
);
const allActions = await detectActions(
'https://example.com/activity.mp4'
);
Extraktion von Ereignis-Zeitlinien
import ZAI from 'z-ai-web-dev-sdk';
async function extractTimeline(videoUrl) {
const zai = await ZAI.create();
const prompt = `Erstelle eine detaillierte Zeitleiste der Ereignisse in diesem Video:
- Identifiziere Schlüsselmomente und Übergänge
- Notiere die ungefähre Zeit (Anfang, Mitte, Ende oder spezifische Zeitstempel, falls sichtbar)
- Beschreibe, was zu jedem wichtigen Punkt passiert
- Identifiziere Ursache-Wirkungs-Beziehungen zwischen Ereignissen
Formatiere als chronologische Liste.`;
const response = await zai.chat.completions.createVision({
messages: [
{
role: 'user',
content: [
{ type: 'text', text: prompt },
{ type: 'video_url', video_url: { url: videoUrl } }
]
}
],
thinking: { type: 'enabled' }
});
return response.choices[0]?.message?.content;
}
Klassifizierung von Videoinhalten
import ZAI from 'z-ai-web-dev-sdk';
async function classifyVideo(videoUrl) {
const zai = await ZAI.create();
const prompt = `Klassifiziere diesen Videoinhalt:
1. Primäre Kategorie (z. B. Bildung, Unterhaltung, Sport, Nachrichten, Tutorial)
2. Unterkategorie oder Genre
3. Zielgruppe
4. Inhaltsstil (professionell, locker, dokumentarisch usw.)
5. Hauptthemen oder -topics
6. Vorgeschlagene Tags (10-15 Schlüsselwörter)
Formatiere deine Antwort als strukturiertes JSON.`;
const response = await zai.chat.completions.createVision({
messages: [
{
role: 'user',
content: [
{ type: 'text', text: prompt },
{ type: 'video_url', video_url: { url: videoUrl } }
]
}
],
thinking: { type: 'disabled' }
});
const content = response.choices[0]?.message?.content;
try {
return JSON.parse(content);
} catch (e) {
return { rawResponse: content };
}
}
Fortgeschrittene Anwendungsfälle
Mehrschrittiges Videogespräch
import ZAI from 'z-ai-web-dev-sdk';
class VideoConversation {
constructor() {
this.messages = [];
}
async initialize() {
this.zai = await ZAI.create();
}
async loadVideo(videoUrl, initialQuestion) {
this.messages.push({
role: 'user',
content: [
{ type: 'text', text: initialQuestion },
{ type: 'video_url', video_url: { url: videoUrl } }
]
});
return this.getResponse();
}
async askFollowUp(question) {
this.messages.push({
role: 'user',
content: [
{ type: 'text', text: question }
]
});
return this.getResponse();
}
async getResponse() {
const response = await this.zai.chat.completions.createVision({
messages: this.messages,
thinking: { type: 'disabled' }
});
const assistantMessage = response.choices[0]?.message?.content;
this.messages.push({
role: 'assistant',
content: assistantMessage
});
return assistantMessage;
}
}
// Verwendung
const conversation = new VideoConversation();
await conversation.initialize();
const initial = await conversation.loadVideo(
'https://example.com/lecture.mp4',
'Was ist das Hauptthema dieser Vorlesung?'
);
const followup1 = await conversation.askFollowUp(
'Kannst du die wichtigsten Konzepte erklären?'
);
const followup2 = await conversation.askFollowUp(
'Welche Beispiele wurden verwendet, um diese Konzepte zu veranschaulichen?'
);
Video-Qualitätsbewertung
import ZAI from 'z-ai-web-dev-sdk';
async function assessVideoQuality(videoUrl) {
const zai = await ZAI.create();
const prompt = `Bewerte die Qualität dieses Videos:
1. Visuelle Qualität (Auflösung, Klarheit, Beleuchtung) - Bewerte 1-10
2. Audioqualität (falls Audiospur vorhanden) - Bewerte 1-10
3. Kameraführung (Stabilität, Bildausschnitt, Komposition) - Bewerte 1-10
4. Produktionswert (Schnitt, Übergänge, Effekte) - Bewerte 1-10
5. Inhaltsklarheit (ist die Botschaft klar?) - Bewerte 1-10
6. Tempo (zu schnell, zu langsam, genau richtig)
7. Technische Probleme (Artefakte, Unschärfe, Audiosynchronisation usw.)
8. Gesamtbewertung - 1-10
9. Spezifische Verbesserungsvorschläge
Gib detailliertes Feedback zu jedem Kriterium.`;
const response = await zai.chat.completions.createVision({
messages: [
{
role: 'user',
content: [
{ type: 'text', text: prompt },
{ type: 'video_url', video_url: { url: videoUrl } }
]
}
],
thinking: { type: 'enabled' }
});
return response.choices[0]?.message?.content;
}
Content-Moderation für Videos
import ZAI from 'z-ai-web-dev-sdk';
async function moderateVideo(videoUrl) {
const zai = await ZAI.create();
const prompt = `Überprüfe dieses Video auf Content-Moderation:
1. Prüfe auf unangemessene oder sensible Inhalte
2. Identifiziere potenzielle Sicherheitsbedenken
3. Notiere Inhalte, die gegen übliche Community-Richtlinien verstoßen könnten
4. Bewerte die Altersangemessenheit
5. Identifiziere sichtbares urheberrechtlich geschütztes Material (Logos, Marken, Musik)
6. Gesamte Sicherheitsbewertung: Sicher / Vorsicht / Überprüfung erforderlich
Gib konkrete Beispiele für alle identifizierten Bedenken an.`;
const response = await zai.chat.completions.createVision({
messages: [
{
role: 'user',
content: [
{ type: 'text', text: prompt },
{ type: 'video_url', video_url: { url: videoUrl } }
]
}
],
thinking: { type: 'enabled' }
});
return response.choices[0]?.message?.content;
}
Transkriptgenerierung (Visuelle Beschreibung)
import ZAI from 'z-ai-web-dev-sdk';
async function generateVisualTranscript(videoUrl) {
const zai = await ZAI.create();
const prompt = `Generiere ein detailliertes visuelles Transkript dieses Videos:
- Beschreibe, was in jeder Szene passiert
- Notiere jeglichen Text, der auf dem Bildschirm erscheint
- Beschreibe wichtige visuelle Elemente
- Erwähne Szenenwechsel oder Übergänge
- Füge Beschreibungen der Handlungen und Ausdrücke von Personen ein
Formatiere als zeitbasierte Erzählung (z. B. "Am Anfang...", "Dann...", "Schließlich...").`;
const response = await zai.chat.completions.createVision({
messages: [
{
role: 'user',
content: [
{ type: 'text', text: prompt },
{ type: 'video_url', video_url: { url: videoUrl } }
]
}
],
thinking: { type: 'disabled' }
});
return response.choices[0]?.message?.content;
}
Analyse von Sportvideos
import ZAI from 'z-ai-web-dev-sdk';
async function analyzeSportsVideo(videoUrl, sport = null) {
const zai = await ZAI.create();
const prompt = sport
? `Analysiere dieses ${sport}-Video im Detail:
1. Identifiziere Spieler und ihre Positionen
2. Beschreibe wichtige Spielzüge und Strategien
3. Notiere Tore oder wichtige Momente
4. Bewerte die Spielerleistung
5. Identifiziere Regelverstöße oder Fouls
6. Beschreibe das Tempo und den Spielfluss`
: `Analysiere dieses Sportvideo:
1. Identifiziere die ausgeübte Sportart
2. Beschreibe die wichtigsten Aktionen und Spielzüge
3. Notiere Tore oder bedeutende Ereignisse
4. Beschreibe Spielerbewegungen und Strategien
5. Gesamtbewertung des Spiels oder Matches`;
const response = await zai.chat.completions.createVision({
messages: [
{
role: 'user',
content: [
{ type: 'text', text: prompt },
{ type: 'video_url', video_url: { url: videoUrl } }
]
}
],
thinking: { type: 'enabled' }
});
return response.choices[0]?.message?.content;
}