música-para-vídeo — um fluxo de vídeo sincronizado com batida musical
Use este skill para transformar uma faixa musical em um vídeo HyperFrames sincronizado com a batida. Você analisa a faixa uma vez, define os frames, preenche um plano por frame e constrói cada frame como uma composição. A entrada é uma faixa musical mais imagens ou vídeos opcionais do usuário — não há narração nem captura de site. Tipografia e templates são a base (um vídeo completo não precisa de assets); qualquer mídia fornecida pelo usuário é inserida na mesma grade de batidas.
Você é o orquestrador. Trabalhe em videos/<projeto>/. Execute as etapas em ordem e passe cada Gate antes de prosseguir. Duas etapas precisam do usuário: Etapa 3 (aprovação do plano) e Etapa 6 (aprovação da renderização). Faça você mesmo cada etapa, exceto a Etapa 4, onde você despacha um sub-agente por frame. Mantenha regras de design e movimento fora deste arquivo — elas ficam em references/ e no sub-agente frame-worker.
SKILL_DIR = diretório deste skill. PROJECT_DIR = videos/<nome-do-projeto>/.
Fluxo: Etapa 0 setup → hyperframes.json + assets/bgm.mp3; Etapa 1 análise → audiomap.json; Etapa 2 esqueleto → STORYBOARD.md (frames, grupos TBD); Etapa 3 plano → STORYBOARD.md completo + frame.md; Etapa 4 construção → compositions/frames/NN-*.html; Etapa 5 montagem → index.html; Etapa 6 renderização → renders/video.mp4.
Duas ideias que moldam tudo
- Um analisador, e você confia nele.
analyze-beatgrid.pyé o único analisador de batida — nunca remeça batidas com outra ferramenta ou de ouvido. Sua energia/densidade/rolls/onsets/silêncios são sempre confiáveis. Seusbpmebeats_secsão confiáveis apenas quando a música é genuinamente rítmica; em música calma a grade é um metrônomo que o tracker impôs, então guie-se por frases e energia e nunca corte duro nela. Decidir em qual caso você está é opacingde cada frame (Etapa 2). - Um frame = um arquivo; grupos vivem dentro. A Etapa 2 corta a faixa em frames, e cada frame se torna um arquivo de composição
compositions/frames/NN-<frame_id>.html, construído por um frame-worker. Um frame pode subdividir-se em grupos (cada um um template ou uma combinação de primitivas de movimento). Densidade extra vai dentro de um grupo, então a contagem de frames acompanha tratamentos distintos, não batidas — uma faixa rápida não explode o número de sub-agentes.
Etapa 0: Setup, BGM e entradas
Objetivo: Estabelecer a fonte musical, criar o projeto HyperFrames e anotar qualquer mídia fornecida pelo usuário.
A música é a espinha dorsal — estabeleça uma faixa antes de qualquer outra coisa. Este skill é ajustado para BGM rápido e de alta energia: uma grade de batidas forte impulsiona os cortes (músicas calmas funcionam, mas guie-se por frase em vez de batida). Se o usuário forneceu áudio — um arquivo de música ou um vídeo para extrair o áudio — use-o. Se não, gere um: escolha o clima a partir da descrição do usuário (ex.: "synthwave intenso", "batida trap", "corporativo animado") e produza uma faixa via /hyperframes-media (references/bgm.md — HeyGen retrieval quando credenciado, senão Lyria local / MusicGen; ElevenLabs ou outro gerador também funciona). Antes de gerar, execute npx hyperframes auth status e transmita sua saída literalmente (não reformule ou reescreva) — ela mostra se o BGM vem do HeyGen ou do MusicGen local e, se não estiver logado, como fazer login. Se não estiver logado, PARE e aguarde a escolha do usuário — fazer login ou continuar offline com MusicGen local — antes de gerar a faixa; não escreva chaves em um .env por repositório. (Em modo autônomo, anote o status e continue offline.) Consulte /hyperframes-media → Preflight para a orientação canônica. De qualquer forma, a faixa termina em assets/bgm.mp3. Prepare quaisquer imagens ou vídeos fornecidos pelo usuário para que os frames possam inseri-los na grade de batidas; caso contrário, a tipografia carrega todo o vídeo.
Inicialize apenas se hyperframes.json estiver faltando. Nomeie <projeto> a partir do briefing em kebab-case, como midnight-drive-loop — nunca um timestamp. init verifica os skills instalados em relação aos mais recentes no GitHub e atualiza o conjunto global se algum estiver desatualizado.
npx hyperframes init "videos/<projeto>" --non-interactive --example=blank
mkdir -p "$PROJECT_DIR/assets" "$PROJECT_DIR/renders"
cp "<musica-do-usuario>" "$PROJECT_DIR/assets/bgm.mp3" # extraia de um vídeo primeiro, se necessário
# apenas se o usuário forneceu imagens/vídeos:
node <SKILL_DIR>/scripts/stage-assets.mjs --from <dir> --hyperframes "$PROJECT_DIR" --into public
A marca (fonte + paleta) é escolhida na Etapa 3, não aqui. Não escolha um gênero ou tipo de faixa antecipadamente — assets são apenas um ingrediente opcional, e o gênero emerge das escolhas por frame.
Gate: hyperframes.json + assets/bgm.mp3 existem; aspecto/duração/fps e (se houver) o inventário de assets estão anotados.
Etapa 1: Analisar a música
Objetivo: Produzir a única análise de temporização canônica sobre a qual todo o vídeo é construído.
analyze-beatgrid.py é o único analisador de batida — nunca remeça batidas com outra ferramenta ou de ouvido. Ele lê a faixa uma vez e escreve audiomap.json: fases de energia (nível/densidade/sensação), onsets + onset_rate, rolls, silêncios, hard_stops, key_moments, frases, tempo/grade e audio.duration_sec. É determinístico — o mesmo arquivo sempre dá o mesmo mapa. A maioria dos campos é confiável em qualquer música; bpm e beats_sec são confiáveis apenas quando a música é genuinamente rítmica, e julgar isso é a decisão que você toma na Etapa 2.
Pré-requisitos: Python 3 com librosa, numpy e soundfile disponíveis. Se a importação falhar, instale-os no ambiente Python ativo antes de executar o analisador:
python3 -m pip install librosa numpy soundfile
python3 <SKILL_DIR>/scripts/analyze-beatgrid.py "$PROJECT_DIR/assets/bgm.mp3" \
-o "$PROJECT_DIR/audiomap.json" --print
Gate: audiomap.json existe; audio.duration_sec é conhecido.
Etapa 2: Esqueleto dos frames (apenas estrutura)
Objetivo: Ler a música e definir os frames — o esqueleto de STORYBOARD.md.
Leia references/frame-skeleton.md. Transforme audiomap.json no esqueleto de STORYBOARD.md você mesmo — não há JSON intermediário. Corte a faixa em frames nas mudanças musicais reais (hard_stops, SURGE / DROP key_moments, as bordas de um roll, um trecho sem onsets, um grande salto de energia), ajustando cada limite a um âncora do audiomap. Para cada frame, defina span_sec, pacing (o veredito da chamada de confiança da Etapa 1 — beat_cut quando a grade é real, phrase_flow quando é um metrônomo imposto em música calma), mood e uma linha de feel (a situação musical simples que a Etapa 3 combina com um template). Apenas classifique e defina aqui: deixe os ### Groups de cada frame como TBD (Etapa 3) e o style do frontmatter em branco — sem templates, texto, cor ou fontes. Espere ~1–6 frames.
Gate: os frames cobrem a faixa (primeiro em 0, último em duration_s); cada um carrega span_sec + pacing + mood + feel; todos os ### Groups são TBD; nenhum conteúdo em lugar nenhum.
Etapa 3: Preencher o plano (com aprovação do usuário)
Objetivo: Transformar o esqueleto em um STORYBOARD.md completo e aprovado.
Leia references/planning.md, storyboard-format.md, template-catalog.md, motion-primitive-catalog.md e montage.md (apenas se o usuário forneceu assets). Editando o mesmo arquivo no local, faça duas coisas:
- Escolha a marca. Escolha um preset de
../hyperframes-creative/frame-presets/usando a tabela em../hyperframes-creative/references/design-spec.md(combine com o clima da faixa; apenas suas fontes e cores importam — os templates possuem a composição). Copie-o emframe.mdsem modificações e preencha ostyledo frontmatter (fonte + uma paleta de ≤4–6 amostras) a partir dele. - Preencha cada frame. Decida seus grupos e dê a cada um um tratamento: um template correspondente do catálogo (com parâmetros vinculados e âncoras reais do audiomap), uma composição livre do catálogo de primitivas, ou um tratamento de asset que obedeça ao
pacing. Escreva o texto. Você é dono do O QUÊ (template / primitivas + conteúdo + âncoras); o frame-worker é dono do COMO — nunca escreva tweens em milissegundos no storyboard.
node <SKILL_DIR>/scripts/validate-plan.mjs --storyboard "$PROJECT_DIR/STORYBOARD.md" \
--audiomap "$PROJECT_DIR/audiomap.json" --templates <SKILL_DIR>/references/templates
Corrija todos os ✗ (erros graves: duração incompatível, frames não cobrindo a faixa, src ausente); avisos são esforço máximo. Em seguida, mostre ao usuário um resumo frame a frame e itere até que ele aprove.
Gate: frame.md é uma cópia literal do preset; validate-plan.mjs sai com 0; o usuário aprovou o plano.
Etapa 4: Construir frames a partir do plano
Objetivo: Construir cada frame como um arquivo de composição independente.
Crie compositions/frames/. Leia sub-agents/frame-worker.md e ../hyperframes-core/references/subagent-dispatch.md. Despache um frame-worker por frame, em paralelo quando possível (caso contrário, em ondas). Cada worker recebe exatamente um frame e este contexto:
PROJECT_DIR: <caminho absoluto>
frame_id: <NN-frame_id> # = o nome do arquivo do frame, ex.: 02-f2; o id da composição
Seu bloco: o bloco `## Frame N — <frame_id>` em PROJECT_DIR/STORYBOARD.md
audiomap: PROJECT_DIR/audiomap.json
frame.md: PROJECT_DIR/frame.md
Materiais: para cada grupo, <SKILL_DIR>/references/templates/<id>/index.html (templates) e
<SKILL_DIR>/references/motion-primitives/<id>/ (livre); assets preparados/ (grupos de asset)
Contratos: ../hyperframes-core/references/sub-compositions.md + determinism-rules.md
Canvas: <w>×<h> Pacing: <beat_cut|phrase_flow>
Escrever em: PROJECT_DIR/compositions/frames/<frame_id>.html
O worker bifurca os materiais citados, converte cada âncora para segundos locais do frame (local_t = track_t − span_sec[0]), separa seus grupos com cortes de 0ms e escreve um arquivo de frame seguro para busca. O worker nunca executa o CLI hyperframes — esses comandos operam no projeto montado, que ainda não existe, então reportariam os arquivos errados. O worker apenas escreve no contrato e para; você verifica após a montagem (Etapa 6). Conforme cada worker retorna, você pode confirmar que seu arquivo foi salvo no disco.
Gate: cada frame tem seu compositions/frames/NN-*.html no disco.
Etapa 5: Montar
Objetivo: Conectar os frames construídos + BGM no index.html reproduzível.
assemble-index.mjs é determinístico — sem subagente, sem julgamento. Ele referencia cada arquivo de frame em seu data-start cumulativo, monta assets/bgm.mp3 na faixa 11 e corta diretamente de frame a frame (os frames cobrem a faixa sem intervalos, então não há injetor de transição).
node <SKILL_DIR>/scripts/assemble-index.mjs --storyboard "$PROJECT_DIR/STORYBOARD.md" \
--hyperframes "$PROJECT_DIR" --audiomap "$PROJECT_DIR/audiomap.json"
Corrija qualquer ✗ que ele reportar — um arquivo de frame ausente ou em branco significa que aquele worker escreveu um arquivo parcial; redespache-o (Etapa 4) e remonte.
Gate: index.html existe; duração total == audiomap.audio.duration_sec.
Etapa 6: Verificar e renderizar
Objetivo: Verificar o vídeo montado, obter aprovação do usuário e renderizar o MP4 final.
Execute o CLI no projeto montado — essa é a unidade correta (os workers por frame não puderam executá-lo). lint verifica estrutura, validate executa Chrome headless (capturando erros JS e assets ausentes), inspect captura frames.
( cd "$PROJECT_DIR" && npx hyperframes lint . && npx hyperframes validate . && npx hyperframes inspect . )
Inspecione em t=0, no início de cada frame, no DROP / SURGE mais forte, em cada hard_stops[].t e no frame final. Em caso de falha, faça a correção segura mais barata você mesmo: edite o compositions/frames/NN-*.html ofensivo. Nunca mude duração ou temporização de áudio para esconder um problema de sincronia. Depois que os gates passarem, pause para revisão do usuário, então renderize apenas mediante aprovação:
( cd "$PROJECT_DIR" && npx hyperframes render . --skill=music-to-video -q draft -o renders/video.mp4 --fps 30 )
Gate: lint / validate / inspect passaram; o usuário aprovou; renders/video.mp4 existe com áudio, duração == audiomap.audio.duration_sec. A resposta final informa o caminho do MP4 e a duração.
Tabela de retomada
| Você tem | Continuar de |
|---|---|
assets/bgm.mp3 apenas | Etapa 1 |
audiomap.json | Etapa 2 |
STORYBOARD.md (esqueleto) | Etapa 3 |
STORYBOARD.md (completo) | Etapa 4 |
| todos os arquivos de frame | Etapa 5 |
index.html | Etapa 6 |
Referência rápida
Formatos: paisagem 1920x1080 por padrão; retrato 1080x1920; quadrado 1080x1080. Defina o canvas uma vez no frontmatter do storyboard (canvas: { w, h, fps }).
Scripts em scripts/: analyze-beatgrid.py (o único analisador), validate-plan.mjs (verificação do plano), assemble-index.mjs (montagem do índice), stage-assets.mjs (preparação de mídia do usuário), lib/storyboard.mjs (parser incorporado). Todo o resto é o CLI hyperframes.
| Leia | Quando |
|---|---|
references/frame-skeleton.md | Etapa 2: leia a música, defina os frames, ajuste o pacing |
references/planning.md · storyboard-format.md | Etapa 3: escolha a marca, preencha cada frame, escreva o plano |
references/template-catalog.md | Etapa 3: escolha um template por grupo |
references/motion-primitive-catalog.md | Etapa 3: escolha primitivas de movimento para composição livre |
references/montage.md | Etapa 3: monte assets fornecidos pelo usuário na grade de batidas |
sub-agents/frame-worker.md | Etapa 4: construa cada frame do zero |
../hyperframes-core/references/sub-compositions.md · determinism-rules.md | Etapa 4: contrato de composição e regras de determinismo |
../hyperframes-core/references/subagent-dispatch.md | Etapa 4: despache sub-agentes |
../hyperframes-creative/references/design-spec.md | Etapa 3: escolha o preset de marca |