Habilidad de Comprensión de Vídeo
Esta habilidad proporciona funcionalidad especializada de comprensión de vídeo utilizando el paquete z-ai-web-dev-sdk, permitiendo a los modelos de IA analizar, describir y extraer información de contenido de vídeo, incluyendo movimiento, secuencias temporales y cambios de escena.
Ruta de la Habilidad
Ubicación de la Habilidad: {project_path}/skills/video-understand
Esta habilidad se encuentra en la ruta anterior dentro de tu proyecto.
Scripts de Referencia: Hay scripts de prueba de ejemplo disponibles en el directorio {Ubicación de la Habilidad}/scripts/ para pruebas rápidas y referencia. Consulta {Ubicación de la Habilidad}/scripts/video-understand.ts para un ejemplo funcional.
Resumen
La comprensión de vídeo se enfoca específicamente en el análisis de contenido de vídeo, proporcionando capacidades para:
- Comprensión y descripción de escenas de vídeo
- Detección de acciones y movimientos
- Análisis de secuencias temporales
- Detección de eventos en vídeos
- Resumen de contenido de vídeo
- Detección de cambios de escena
- Seguimiento de personas y objetos a través de fotogramas
- Análisis de contenido audiovisual (cuando sea aplicable)
IMPORTANTE: z-ai-web-dev-sdk DEBE usarse solo en código de backend. Nunca lo uses en código del lado del cliente.
Requisitos Previos
El paquete z-ai-web-dev-sdk ya está instalado. Impórtalo como se muestra en los ejemplos a continuación.
Uso desde CLI (Para Tareas Simples)
Para tareas rápidas de análisis de vídeo, puedes usar la CLI z-ai en lugar de escribir código. Esto es ideal para descripciones sencillas de vídeos, pruebas o automatización.
Análisis Básico de Vídeo
# Analizar un vídeo desde una URL
z-ai vision --prompt "Resume lo que sucede en este vídeo" --image "https://ejemplo.com/video.mp4"
# Nota: Usa la bandera --image también para URLs de vídeo
z-ai vision -p "Describe los eventos clave" -i "https://ejemplo.com/presentacion.mp4"
Analizar Vídeos Locales
# Analizar un archivo de vídeo local
z-ai vision -p "¿Qué actividades se muestran en este vídeo?" -i "./grabacion.mp4"
# Guardar respuesta en un archivo
z-ai vision -p "Proporciona un resumen detallado" -i "./reunion.mp4" -o resumen.json
Análisis Avanzado de Vídeo
# Comprensión compleja de escenas con pensamiento
z-ai vision \
-p "Analiza este vídeo e identifica: 1) Eventos principales, 2) Personas y sus acciones, 3) Línea de tiempo de momentos clave" \
-i "./evento.mp4" \
--thinking \
-o analisis.json
# Detección de acciones
z-ai vision \
-p "Identifica todas las acciones realizadas por las personas en este vídeo" \
-i "./deportes.mp4" \
--thinking
Salida en Streaming
# Transmite el análisis del vídeo
z-ai vision -p "Describe este contenido de vídeo" -i "./video.mp4" --stream
Parámetros de CLI
--prompt, -p <texto>: Requerido - Pregunta o instrucción sobre el vídeo--image, -i <URL o ruta>: Opcional - URL del vídeo o ruta de archivo local (a pesar del nombre, también funciona para vídeos)--thinking, -t: Opcional - Habilita el razonamiento de cadena de pensamiento para análisis complejos (predeterminado: deshabilitado)--output, -o <ruta>: Opcional - Ruta del archivo de salida (formato JSON)--stream: Opcional - Transmite la respuesta en tiempo real
Formatos de Vídeo Soportados
- MP4 (.mp4) - Formato más ampliamente soportado
- AVI (.avi) - Audio Video Interleave
- MOV (.mov) - Formato QuickTime
- WebM (.webm) - Formato optimizado para web
- MKV (.mkv) - Formato Matroska
- FLV (.flv) - Formato Flash Video
Cuándo Usar CLI vs SDK
Usa CLI para:
- Resúmenes rápidos de vídeos
- Análisis de vídeos únicos
- Probar capacidades de comprensión de vídeo
- Scripts de automatización simples
- Generar descripciones de vídeos
Usa SDK para:
- Conversaciones de múltiples turnos sobre vídeos
- Pipelines complejos de procesamiento de vídeo
- Aplicaciones de producción con manejo de errores
- Integración personalizada con lógica de procesamiento de vídeo
- Procesamiento por lotes de vídeos con flujos de trabajo personalizados
Enfoque Recomendado
Para mejor rendimiento y fiabilidad con vídeos locales, considera:
- Subir vídeos a un CDN y usar URLs
- Para vídeos más cortos, convertir fotogramas clave a imágenes para un análisis más rápido
- Para vídeos largos, considerar fragmentar o muestrear en intervalos
Implementación Básica de Comprensión de Vídeo
Análisis de Vídeo Único
import ZAI from 'z-ai-web-dev-sdk';
async function analizarVideo(urlVideo, prompt) {
const zai = await ZAI.create();
const response = await zai.chat.completions.createVision({
messages: [
{
role: 'user',
content: [
{
type: 'text',
text: prompt
},
{
type: 'video_url',
video_url: {
url: urlVideo
}
}
]
}
],
thinking: { type: 'disabled' }
});
return response.choices[0]?.message?.content;
}
// Ejemplos de uso
const resumen = await analizarVideo(
'https://ejemplo.com/presentacion.mp4',
'Resume los puntos clave presentados en este vídeo'
);
const deteccionAccion = await analizarVideo(
'https://ejemplo.com/deportes.mp4',
'Identifica y describe todas las acciones atléticas realizadas en este vídeo'
);
Comprensión de Escenas de Vídeo
import ZAI from 'z-ai-web-dev-sdk';
async function entenderEscenasVideo(urlVideo) {
const zai = await ZAI.create();
const prompt = `Analiza este vídeo y proporciona:
1. Resumen general del contenido del vídeo
2. Escenas o segmentos principales (con marcas de tiempo aproximadas si es posible)
3. Personas o personajes clave y sus roles
4. Acciones o eventos importantes en orden cronológico
5. Descripción del entorno y la ambientación
6. Estado de ánimo o tono general`;
const response = await zai.chat.completions.createVision({
messages: [
{
role: 'user',
content: [
{ type: 'text', text: prompt },
{ type: 'video_url', video_url: { url: urlVideo } }
]
}
],
thinking: { type: 'enabled' } // Habilita para análisis detallado
});
return response.choices[0]?.message?.content;
}
// Uso
const analisisEscena = await entenderEscenasVideo(
'https://ejemplo.com/documental.mp4'
);
Detección de Movimiento y Acción
import ZAI from 'z-ai-web-dev-sdk';
async function detectarAcciones(urlVideo, accionEspecifica = null) {
const zai = await ZAI.create();
const prompt = accionEspecifica
? `Identifica todas las instancias de "${accionEspecifica}" en este vídeo. Para cada instancia, describe cuándo ocurre y proporciona detalles sobre cómo se realiza.`
: 'Identifica y describe todas las acciones y movimientos significativos en este vídeo. Incluye quién los realiza y cuándo ocurren.';
const response = await zai.chat.completions.createVision({
messages: [
{
role: 'user',
content: [
{ type: 'text', text: prompt },
{ type: 'video_url', video_url: { url: urlVideo } }
]
}
],
thinking: { type: 'enabled' }
});
return response.choices[0]?.message?.content;
}
// Uso
const accionesCorriendo = await detectarAcciones(
'https://ejemplo.com/deportes.mp4',
'corriendo'
);
const todasLasAcciones = await detectarAcciones(
'https://ejemplo.com/actividad.mp4'
);
Extracción de Línea de Tiempo de Eventos
import ZAI from 'z-ai-web-dev-sdk';
async function extraerLineaTiempo(urlVideo) {
const zai = await ZAI.create();
const prompt = `Crea una línea de tiempo detallada de eventos en este vídeo:
- Identifica momentos y transiciones clave
- Anota el tiempo aproximado (principio, mitad, final o marcas de tiempo específicas si son visibles)
- Describe lo que sucede en cada punto clave
- Identifica cualquier relación de causa y efecto entre eventos
Formatea como una lista cronológica.`;
const response = await zai.chat.completions.createVision({
messages: [
{
role: 'user',
content: [
{ type: 'text', text: prompt },
{ type: 'video_url', video_url: { url: urlVideo } }
]
}
],
thinking: { type: 'enabled' }
});
return response.choices[0]?.message?.content;
}
Clasificación de Contenido de Vídeo
import ZAI from 'z-ai-web-dev-sdk';
async function clasificarVideo(urlVideo) {
const zai = await ZAI.create();
const prompt = `Clasifica este contenido de vídeo:
1. Categoría principal (ej., educativo, entretenimiento, deportes, noticias, tutorial)
2. Subcategoría o género
3. Audiencia objetivo
4. Estilo de contenido (profesional, casual, documental, etc.)
5. Temas o tópicos clave
6. Etiquetas sugeridas (10-15 palabras clave)
Formatea tu respuesta como JSON estructurado.`;
const response = await zai.chat.completions.createVision({
messages: [
{
role: 'user',
content: [
{ type: 'text', text: prompt },
{ type: 'video_url', video_url: { url: urlVideo } }
]
}
],
thinking: { type: 'disabled' }
});
const content = response.choices[0]?.message?.content;
try {
return JSON.parse(content);
} catch (e) {
return { rawResponse: content };
}
}
Casos de Uso Avanzados
Conversación de Múltiples Turnos sobre Vídeo
import ZAI from 'z-ai-web-dev-sdk';
class ConversacionVideo {
constructor() {
this.mensajes = [];
}
async inicializar() {
this.zai = await ZAI.create();
}
async cargarVideo(urlVideo, preguntaInicial) {
this.mensajes.push({
role: 'user',
content: [
{ type: 'text', text: preguntaInicial },
{ type: 'video_url', video_url: { url: urlVideo } }
]
});
return this.obtenerRespuesta();
}
async hacerSeguimiento(pregunta) {
this.mensajes.push({
role: 'user',
content: [
{ type: 'text', text: pregunta }
]
});
return this.obtenerRespuesta();
}
async obtenerRespuesta() {
const response = await this.zai.chat.completions.createVision({
messages: this.mensajes,
thinking: { type: 'disabled' }
});
const mensajeAsistente = response.choices[0]?.message?.content;
this.mensajes.push({
role: 'assistant',
content: mensajeAsistente
});
return mensajeAsistente;
}
}
// Uso
const conversacion = new ConversacionVideo();
await conversacion.inicializar();
const inicial = await conversacion.cargarVideo(
'https://ejemplo.com/conferencia.mp4',
'¿Cuál es el tema principal de esta conferencia?'
);
const seguimiento1 = await conversacion.hacerSeguimiento(
'¿Puedes explicar los conceptos clave mencionados?'
);
const seguimiento2 = await conversacion.hacerSeguimiento(
'¿Qué ejemplos se usaron para ilustrar estos conceptos?'
);
Evaluación de Calidad de Vídeo
import ZAI from 'z-ai-web-dev-sdk';
async function evaluarCalidadVideo(urlVideo) {
const zai = await ZAI.create();
const prompt = `Evalúa la calidad de este vídeo:
1. Calidad visual (resolución, nitidez, iluminación) - Puntúa 1-10
2. Calidad de audio (si hay audio presente) - Puntúa 1-10
3. Trabajo de cámara (estabilidad, encuadre, composición) - Puntúa 1-10
4. Valor de producción (edición, transiciones, efectos) - Puntúa 1-10
5. Claridad del contenido (¿es claro el mensaje?) - Puntúa 1-10
6. Ritmo (muy rápido, muy lento, justo)
7. Problemas técnicos (artefactos, desenfoque, sincronización de audio, etc.)
8. Puntuación general - 1-10
9. Recomendaciones específicas para mejorar
Proporciona retroalimentación detallada para cada criterio.`;
const response = await zai.chat.completions.createVision({
messages: [
{
role: 'user',
content: [
{ type: 'text', text: prompt },
{ type: 'video_url', video_url: { url: urlVideo } }
]
}
],
thinking: { type: 'enabled' }
});
return response.choices[0]?.message?.content;
}
Moderación de Contenido de Vídeo
import ZAI from 'z-ai-web-dev-sdk';
async function moderarVideo(urlVideo) {
const zai = await ZAI.create();
const prompt = `Revisa este vídeo para moderación de contenido:
1. Verifica cualquier contenido inapropiado o sensible
2. Identifica cualquier posible preocupación de seguridad
3. Anota cualquier contenido que pueda violar pautas comunitarias comunes
4. Evalúa la idoneidad por edad
5. Identifica cualquier material protegido por derechos de autor visible (logotipos, marcas, música)
6. Clasificación de seguridad general: Seguro / Precaución / Revisión Requerida
Proporciona ejemplos específicos para cualquier preocupación identificada.`;
const response = await zai.chat.completions.createVision({
messages: [
{
role: 'user',
content: [
{ type: 'text', text: prompt },
{ type: 'video_url', video_url: { url: urlVideo } }
]
}
],
thinking: { type: 'enabled' }
});
return response.choices[0]?.message?.content;
}
Generación de Transcripción Visual
import ZAI from 'z-ai-web-dev-sdk';
async function generarTranscripcionVisual(urlVideo) {
const zai = await ZAI.create();
const prompt = `Genera una transcripción visual detallada de este vídeo:
- Describe lo que sucede en cada escena
- Anota cualquier texto que aparezca en pantalla
- Describe elementos visuales importantes
- Menciona cualquier cambio de escena o transición
- Incluye descripciones de las acciones y expresiones de las personas
Formatea como una narrativa basada en tiempo (ej., "Al principio...", "Luego...", "Finalmente...").`;
const response = await zai.chat.completions.createVision({
messages: [
{
role: 'user',
content: [
{ type: 'text', text: prompt },
{ type: 'video_url', video_url: { url: urlVideo } }
]
}
],
thinking: { type: 'disabled' }
});
return response.choices[0]?.message?.content;
}
Análisis de Vídeos Deportivos
import ZAI from 'z-ai-web-dev-sdk';
async function analizarVideoDeportivo(urlVideo, deporte = null) {
const zai = await ZAI.create();
const prompt = deporte
? `Analiza este vídeo de ${deporte} en detalle:
1. Identifica jugadores y sus posiciones
2. Describe jugadas y estrategias clave
3. Anota eventos de anotación o momentos importantes
4. Evalúa el rendimiento de los jugadores
5. Identifica cualquier violación de reglas o faltas
6. Describe el ritmo y flujo del juego`
: `Analiza este vídeo deportivo:
1. Identifica el deporte que se está jugando
2. Describe las acciones y jugadas clave
3. Anota cualquier anotación o evento significativo
4. Describe los movimientos y estrategias de los jugadores
5. Evaluación general del juego o partido`;
const response = await zai.chat.completions.createVision({
messages: [
{
role: 'user',
content: [
{ type: 'text', text: prompt },
{ type: 'video_url', video_url: { url: urlVideo } }
]
}
],
thinking: { type: 'enabled' }
});
return response.choices[0]?.message?.content;
}
Análisis de Vídeo Educativo
import ZAI from 'z-ai-web-dev-sdk';
async function analizarVideoEducativo(urlVideo) {
const zai = await ZAI.create();
const prompt = `Analiza este vídeo educativo:
1. Identifica los objetivos de aprendizaje
2. Resume los conceptos clave enseñados
3. Evalúa la efectividad de la enseñanza (claridad, ejemplos, ritmo)
4. Identifica ayudas visuales o demostraciones utilizadas
5. Sugiere preguntas de seguimiento para evaluar la comprensión
6. Califica la dificultad: Principiante / Intermedio / Avanzado
7. Recomienda recursos adicionales sobre el tema`;
const response = await zai.chat.completions.createVision({
messages: [
{
role: 'user',
content: [
{ type: 'text', text: prompt },
{ type: 'video_url', video_url: { url: urlVideo } }
]
}
],
thinking: { type: 'enabled' }
});
return response.choices[0]?.message?.content;
}
Análisis de Vídeo de Vigilancia
import ZAI from 'z-ai-web-dev-sdk';
async function analizarVideoVigilancia(urlVideo) {
const zai = await ZAI.create();
const prompt = `Realiza un análisis de seguridad de este vídeo de vigilancia:
1. Identifica cualquier actividad inusual o sospechosa
2. Rastrea los movimientos de personas o vehículos
3. Anota marcas de tiempo de eventos significativos
4. Describe el diseño de la escena y zonas de interés
5. Identifica posibles amenazas o riesgos de seguridad
6. Sugiere áreas que requieren monitoreo adicional
7. Resumen general de actividad normal vs. anormal`;
const response = await zai.chat.completions.createVision({
messages: [
{
role: 'user',
content: [
{ type: 'text', text: prompt },
{ type: 'video_url', video_url: { url: urlVideo } }
]
}
],
thinking: { type: 'enabled' }
});
return response.choices[0]?.message?.content;
}
Mejores Prácticas
Optimización de Solicitudes
- Sé específico con los prompts: Describe claramente qué información necesitas
- Usa preguntas estructuradas: Divide análisis complejos en preguntas específicas
- Aprovecha el pensamiento: Habilita
thinking: { type: 'enabled' }para análisis detallados - Combinar con imágenes: Para vídeos largos, considera extraer fotogramas clave para entrada adicional
Consideraciones de Rendimiento
- Tamaño del vídeo: Archivos de vídeo más grandes pueden tomar más tiempo para procesar
- Calidad vs. Velocidad: Usa pensamiento deshabilitado para respuestas más rápidas
- Caché: Almacena en caché los resultados del análisis para contenido de vídeo repetido
- Tamaño del lote: Para procesamiento por lotes, considera limitar solicitudes concurrentes
Manejo de Errores
async function analizarVideoRobusto(urlVideo) {
try {
const zai = await ZAI.create();
const response = await zai.chat.completions.createVision({
messages: [
{
role: 'user',
content: [
{ type: 'text', text: 'Describe este vídeo' },
{ type: 'video_url', video_url: { url: urlVideo } }
]
}
]
});
return response.choices[0]?.message?.content;
} catch (error) {
console.error('Error al analizar el vídeo:', error);
// Estrategias de respaldo
if (error.message.includes('timeout')) {
// Reintentar con un timeout más largo
} else if (error.message.includes('formato')) {
// Verificar el formato del vídeo
}
throw error;
}
}
Limitaciones y Notas
- Duración del Vídeo: El rendimiento puede degradarse con vídeos muy largos (>30 minutos)
- Calidad: Los análisis funcionan mejor con vídeos de alta calidad y buena iluminación
- Audio: El análisis de audio no es compatible de forma nativa; las descripciones se basan en pistas visuales
- Idioma: El texto en pantalla puede no ser reconocido en todos los idiomas
- Conexión de Red: Se requiere una conexión de red estable para el análisis de vídeos
- Privacidad: Asegúrate de cumplir con las leyes de privacidad al analizar vídeos que contengan personas